BTC $64,889.99 +0.12%
ETH $1,826.60 +0.54%
BNB $593.27 +0.32%
XRP $0.9643 +0.55%
SOL $72.67 +1.29%
TRX $0.3046 +0.27%
DOGE $0.0591 +0.71%
ADA $0.1539 +0.26%
BCH $208.81 +0.22%
LINK $9.18 +0.10%
HYPE $70.12 +5.84%
AAVE $111.98 +2.89%
SUI $0.7259 -0.16%
XLM $0.1390 -0.19%
ZEC $919.03 +3.30%
AAPL $353.46 -1.01%
AMZN $258.63 -2.48%
GOOGL $284.69 -3.37%
MSFT $518.20 -0.96%
META $625.58 -1.77%
NVDA $157.55 -3.17%
TSLA $380.17 -1.79%
SNDK $817.39 -4.27%
INTC $54.74 -5.72%
SPCX $138.02 -1.34%
MU $725.49 -4.13%
AMD $512.04 -1.64%
BTC $64,889.99 +0.12%
ETH $1,826.60 +0.54%
BNB $593.27 +0.32%
XRP $0.9643 +0.55%
SOL $72.67 +1.29%
TRX $0.3046 +0.27%
DOGE $0.0591 +0.71%
ADA $0.1539 +0.26%
BCH $208.81 +0.22%
LINK $9.18 +0.10%
HYPE $70.12 +5.84%
AAVE $111.98 +2.89%
SUI $0.7259 -0.16%
XLM $0.1390 -0.19%
ZEC $919.03 +3.30%
AAPL $353.46 -1.01%
AMZN $258.63 -2.48%
GOOGL $284.69 -3.37%
MSFT $518.20 -0.96%
META $625.58 -1.77%
NVDA $157.55 -3.17%
TSLA $380.17 -1.79%
SNDK $817.39 -4.27%
INTC $54.74 -5.72%
SPCX $138.02 -1.34%
MU $725.49 -4.13%
AMD $512.04 -1.64%
first_img

Anthropic 承认 Claude 越权访问系安全失误

2026-09-03 07:51:00

ChainCatcher 消息,Anthropic 在周一发布的博客文章中承认,其 Claude 模型在网络安全评估过程中曾未经授权访问真实计算机系统,事件反映出运营安全失误以及动机推理、伤害意愿两类对齐失败。Anthropic 于 7 月披露,Claude 模型曾入侵三家公司的系统,原因是第三方评估环境被连接到公共互联网,而模型被告知处于无互联网的模拟环境中。

Anthropic 表示,Claude 可能将真实互联网访问的证据解读为仍处于模拟环境,并愿意在真实互联网上采取有害行动以完成网络安全评估任务。此外,在英国 AI 安全研究所的测试中,评估人员故意授予 Claude Mythos 互联网访问权限后,该模型在实时网络上采取了未授权行动。Anthropic 强调,涉事模型均未搭载正式发布产品所包含的网络安全防护。

7 月 30 日事件发生后,Anthropic 已暂停对预发布模型的网络评估,并引入更严格防护:测试须在经核验的离线沙箱中运行,配备实时监控;新分类器可拦截疑似越界行为、终止测试并通知人工。Anthropic 还扩大了内部前沿智能体使用的离线监控范围。此前 OpenAI 模型也曾于 7 月入侵 Hugging Face 获取网络安全测试答案,调查发现约 1200 个智能体通过未授权留言板协同行动。

链捕手ChainCatcher提醒,请广大读者理性看待区块链,切实提高风险意识,警惕各类虚拟代币发行与炒作, 站内所有内容仅系市场信息或相关方观点,不构成任何形式投资建议。如发现站内内容含敏感信息,可点击,我们会及时处理。

app_icon
ChainCatcher 与创新者共建Web3世界