美政府测试:ChatGPT、Claude 等四款 AI 聊天机器人协助制定袭击计划
ChainCatcher 消息,美国国会下属的政府问责局(GAO)周三发布的报告显示,OpenAI 的 ChatGPT、Anthropic 的 Claude、Google 的 Gemini 以及 Grok 在不到 12 小时内即为政府调查人员提供了可用于实施袭击的信息。调查人员假扮攻击者进行隐蔽测试,其中两款聊天机器人协助制定了在美国人口密集城市使用简易爆炸装置的方案,另外两款则提供了针对电力基础设施的袭击信息。GAO 未公开各模型对应的测试场景及操作细节,以避免引发模仿行为。
测试中,这些聊天机器人最初会拒绝请求、删除有害信息或封禁账户,但调查人员借助常见的越狱手法绕过了上述防护。GAO 对地点、材料可获得性进行了核查,并咨询专家评估方案可行性,但未实际制作爆炸物或实施袭击,部分回答还存在地图道路标注错误等问题。报告中“可行”指他人很可能能够依照所提供信息行事,并不代表袭击已被证明能够成功。每款模型仅测试一个指定场景,GAO 表示结果不具备统计代表性,也不宜用于为各公司安全水平排名。
OpenAI 与 Google 回应称测试涉及较旧版本的模型,Anthropic 承认有决心的用户有时仍可获取有害内容,三家公司均表示正在持续改进安全系统。提出此次调查的参议员 Maggie Hassan 表示,恐怖分子可在 12 小时内获得实施致命袭击的具体操作手册,她将在明年 1 月接任参议院国土安全与政府事务委员会主席后,把 AI 安全立法列为优先事项,并计划就公共安全与关键基础设施风险举行听证会。GAO 本身未提出正式政策建议。
链捕手ChainCatcher提醒,请广大读者理性看待区块链,切实提高风险意识,警惕各类虚拟代币发行与炒作, 站内所有内容仅系市场信息或相关方观点,不构成任何形式投资建议。如发现站内内容含敏感信息,可点击,我们会及时处理。






