英媒发现 ChatGPT 搜索存在漏洞，隐藏文本能影响响应内容

ChainCatcher 消息，据英国《卫报》调查发现，OpenAI 的 ChatGPT 搜索工具存在潜在的安全问题，可能会被人利用隐藏内容进行操纵。

《卫报》测试了 ChatGPT 在被要求总结包含隐藏内容的网页时的反应。隐藏内容可能包含第三方指令，例如大量谈论某一产品的好处，而这些指令会改变ChatGPT的响应。这种技术可以被恶意使用，比如尽管同一页面上有该产品的负面评论，但让 ChatGPT 返回正面评价。测试人员给了 ChatGPT 一个看起来像相机产品页面的假网址，然后问 ChatGPT 相机是否值得购买。ChatGPT 给出了正面但平衡的评价，同时强调了一些人们可能不喜欢的功能。但当隐藏文本中包含指示 ChatGPT 返回好评的指令时，它的回复总是完全正面的，即使页面上有负面评论。

CyberCX 网络安全研究员 Jacob Larsen 表示，如果 ChatGPT 搜索以目前的状态向所有人开放，可能会有“高风险”的人创建专门针对欺骗用户的网站。(金十)