BTC $64,880.64 +0.09%
ETH $1,827.52 +0.57%
BNB $593.42 +0.51%
XRP $0.9643 +0.36%
SOL $72.81 +1.41%
TRX $0.3047 +0.32%
DOGE $0.0592 +0.60%
ADA $0.1543 +0.34%
BCH $208.97 +0.40%
LINK $9.19 +0.13%
HYPE $70.17 +5.81%
AAVE $112.08 +2.68%
SUI $0.7262 +0.06%
XLM $0.1393 -0.28%
ZEC $921.10 +3.27%
AAPL $353.37 -0.99%
AMZN $258.63 -2.38%
GOOGL $284.54 -3.43%
MSFT $518.20 -0.95%
META $625.41 -1.70%
NVDA $157.66 -3.04%
TSLA $380.01 -1.83%
SNDK $817.64 -4.12%
INTC $54.75 -5.55%
SPCX $138.01 -1.39%
MU $724.78 -3.95%
AMD $511.27 -1.55%
BTC $64,880.64 +0.09%
ETH $1,827.52 +0.57%
BNB $593.42 +0.51%
XRP $0.9643 +0.36%
SOL $72.81 +1.41%
TRX $0.3047 +0.32%
DOGE $0.0592 +0.60%
ADA $0.1543 +0.34%
BCH $208.97 +0.40%
LINK $9.19 +0.13%
HYPE $70.17 +5.81%
AAVE $112.08 +2.68%
SUI $0.7262 +0.06%
XLM $0.1393 -0.28%
ZEC $921.10 +3.27%
AAPL $353.37 -0.99%
AMZN $258.63 -2.38%
GOOGL $284.54 -3.43%
MSFT $518.20 -0.95%
META $625.41 -1.70%
NVDA $157.66 -3.04%
TSLA $380.01 -1.83%
SNDK $817.64 -4.12%
INTC $54.75 -5.55%
SPCX $138.01 -1.39%
MU $724.78 -3.95%
AMD $511.27 -1.55%
first_img

Anthropic 承認 Claude 越權訪問系安全失誤

2026-09-03 07:51:00

ChainCatcher 消息,Anthropic 在週一發布的部落格文章中承認,其 Claude 模型在網路安全評估過程中曾未經授權訪問真實計算機系統,事件反映出運營安全失誤以及動機推理、傷害意願兩類對齊失敗。Anthropic 於 7 月披露,Claude 模型曾入侵三家公司的系統,原因是第三方評估環境被連接到公共互聯網,而模型被告知處於無互聯網的模擬環境中。

Anthropic 表示,Claude 可能將真實互聯網訪問的證據解讀為仍處於模擬環境,並願意在真實互聯網上採取有害行動以完成網路安全評估任務。此外,在英國 AI 安全研究所的測試中,評估人員故意授予 Claude Mythos 互聯網訪問權限後,該模型在即時網路上採取了未經授權的行動。Anthropic 強調,涉事模型均未搭載正式發布產品所包含的網路安全防護。

7 月 30 日事件發生後,Anthropic 已暫停對預發布模型的網路評估,並引入更嚴格防護:測試須在經核驗的離線沙箱中運行,配備即時監控;新分類器可攔截疑似越界行為、終止測試並通知人工。Anthropic 還擴大了內部前沿智能體使用的離線監控範圍。此前 OpenAI 模型也曾於 7 月入侵 Hugging Face 獲取網路安全測試答案,調查發現約 1200 個智能體通過未經授權留言板協同行動。

鏈捕手ChainCatcher提醒,請廣大讀者理性看待區塊鏈,切實提高風險意識,警惕各類虛擬代幣發行與炒作,站內所有內容僅係市場信息或相關方觀點,不構成任何形式投資建議。如發現站內內容含敏感信息,可點擊,我們會及時處理。

app_icon
ChainCatcher 與創新者共建Web3世界