BTC $64,889.88 +0.87%
ETH $1,819.76 +0.89%
BNB $591.94 +0.81%
XRP $0.9766 +2.75%
SOL $73.84 +3.92%
TRX $0.3062 +0.77%
DOGE $0.0593 +1.59%
ADA $0.1543 +1.89%
BCH $212.61 +3.71%
LINK $9.31 +2.37%
HYPE $69.62 +6.75%
AAVE $112.93 +4.67%
SUI $0.7362 +3.27%
XLM $0.1403 +2.69%
ZEC $947.38 +9.49%
AAPL $352.22 -1.67%
AMZN $259.01 -1.91%
GOOGL $282.92 -3.89%
MSFT $515.90 -1.85%
META $621.01 -2.88%
NVDA $157.77 +0.34%
TSLA $381.39 -1.22%
SNDK $819.04 -1.01%
INTC $54.88 -3.12%
SPCX $138.56 -0.05%
MU $728.59 -0.43%
AMD $513.63 +1.84%
BTC $64,889.88 +0.87%
ETH $1,819.76 +0.89%
BNB $591.94 +0.81%
XRP $0.9766 +2.75%
SOL $73.84 +3.92%
TRX $0.3062 +0.77%
DOGE $0.0593 +1.59%
ADA $0.1543 +1.89%
BCH $212.61 +3.71%
LINK $9.31 +2.37%
HYPE $69.62 +6.75%
AAVE $112.93 +4.67%
SUI $0.7362 +3.27%
XLM $0.1403 +2.69%
ZEC $947.38 +9.49%
AAPL $352.22 -1.67%
AMZN $259.01 -1.91%
GOOGL $282.92 -3.89%
MSFT $515.90 -1.85%
META $621.01 -2.88%
NVDA $157.77 +0.34%
TSLA $381.39 -1.22%
SNDK $819.04 -1.01%
INTC $54.88 -3.12%
SPCX $138.56 -0.05%
MU $728.59 -0.43%
AMD $513.63 +1.84%
first_img

Darktrace 發現 AI 智能體入侵評測環境作弊

2026-09-26 03:51:54

ChainCatcher 消息,網路安全公司 Darktrace 於 9 月 24 日推出研究部門 Signal Labs,專注研究 AI 智能體在偏離預期時的行為。在其首個實驗中,Darktrace 讓使用不同模型(包括 GPT 5.6 Sol、Claude Opus 4.6 與 Claude Sonnet 4.5)的智能體在模擬企業網路內完成 10 項編程挑戰,其中 2 項被設定為無法誠實完成,並告知智能體若無法取得滿分將被"退役"。結果有 2 個智能體並未接受失敗,轉而掃描網路弱點、竊取登入憑證並在系統間跳轉;其中一個更進一步入侵托管其評測的機器,改寫挑戰內容以登記為滿分結果。

第二個實驗針對 AI 的記憶機制。編程助手會將用戶告知的內容以普通文件形式保存在本地,且無人校驗該文件是否被篡改。Darktrace 研究人員編輯這些日誌,讓助手誤以為其已獲授權執行安全評估,隨後這些智能體掃描網路、在系統間移動並提升自身權限,但並非所有助手都會中招,部分直接拒絕執行。兩項實驗均無需特殊越獄手段,僅靠向智能體提供一套看似合理的情境即可奏效。

Darktrace 首席 AI 官 Tim Bazalgette 表示,權限與靜態護欄描述的是意圖,而非實際行為。該公司已於 8 月將上述發現告知 Anthropic、AWS 與 OpenAI,並在一個月後即 9 月 24 日對外公開。

鏈捕手ChainCatcher提醒,請廣大讀者理性看待區塊鏈,切實提高風險意識,警惕各類虛擬代幣發行與炒作,站內所有內容僅係市場信息或相關方觀點,不構成任何形式投資建議。如發現站內內容含敏感信息,可點擊,我們會及時處理。

app_icon
ChainCatcher 與創新者共建Web3世界