IT之家 7 月 10 日消息，一项最新发现指出，人工智能工具 ChatGPT 在商业推荐中可能引用了不可靠的信息来源，包括被黑客攻击的网站和已被重新利用的过期域名。
据IT之家了解，该发现由 SEO 专家、Digitaloft 公司董事总经理詹姆斯・布罗克班克（James Brockbank）通过个人测试得出，并非基于正式研究。他在测试中发现，ChatGPT 在推荐公司或服务时，有时会引用被篡改或误导性的内容。这些内容往往来自被黑客入侵的高权重网站，或是已被重新注册并用于发布无关信息的过期域名。由于这些域名本身具有较高的“权威性”，ChatGPT 在生成回答时仍将其视为可信来源。
布罗克班克指出，这种现象主要涉及两类问题：一是被黑客攻击的网站，攻击者在这些网站上植入与原本内容无关的信息；二是过期域名的再利用，一些机构或个人购买这些域名后，发布与其原主题无关的内容，以借助其原有的搜索引擎权重误导 AI 系统。
“重建一个域名，仅仅是为了让语言模型引用它？这就是操控。”布罗克班克在接受采访时表示。他强调，虽然通过合法媒体投放和精心策划的内容可以提升在 AI 推荐中的曝光度，但利用被黑或过期域名则明显越过了道德底线。
这一发现对企业和用户均具有重要影响。对于企业而言，AI 推荐已成为品牌曝光的重要渠道，但如果推荐内容来源不可靠，可能误导消费者，甚至损害品牌声誉。对于用户来说，盲目信任 AI 推荐可能带来信息误判的风险。
布罗克班克呼吁，AI 开发者应加强对操控内容的识别与过滤机制，提升系统的信息筛选能力。在此之前，他建议用户在使用 ChatGPT 等 AI 工具时，应对其推荐的信息来源进行核实，而非全盘接受。
“我们还没有到可以完全信任 ChatGPT 推荐而不加验证的阶段。”布罗克班克提醒道。
0 条