BTC $85,706.63 +2.10%
ETH $2,709.95 +0.85%
BNB $775.17 +1.14%
XRP $1.51 +2.16%
SOL $120.60 +2.81%
TRX $0.3348 +0.50%
DOGE $0.0954 +1.37%
ADA $0.2525 +3.11%
BCH $312.97 +2.31%
LINK $14.24 -0.37%
HYPE $89.89 +1.40%
AAVE $182.94 +10.02%
SUI $1.17 +3.63%
XLM $0.2219 +1.59%
ZEC $1,371.45 -0.60%
AAPL $332.54 +0.75%
AMZN $251.46 +1.79%
GOOGL $343.67 +0.95%
MSFT $515.83 +0.24%
META $731.79 +0.80%
NVDA $235.83 +3.03%
TSLA $371.85 +3.40%
SNDK $1,735.61 +0.33%
INTC $123.58 +3.72%
SPCX $156.68 +2.20%
MU $1,084.98 +4.18%
AMD $639.10 +5.02%
BTC $85,706.63 +2.10%
ETH $2,709.95 +0.85%
BNB $775.17 +1.14%
XRP $1.51 +2.16%
SOL $120.60 +2.81%
TRX $0.3348 +0.50%
DOGE $0.0954 +1.37%
ADA $0.2525 +3.11%
BCH $312.97 +2.31%
LINK $14.24 -0.37%
HYPE $89.89 +1.40%
AAVE $182.94 +10.02%
SUI $1.17 +3.63%
XLM $0.2219 +1.59%
ZEC $1,371.45 -0.60%
AAPL $332.54 +0.75%
AMZN $251.46 +1.79%
GOOGL $343.67 +0.95%
MSFT $515.83 +0.24%
META $731.79 +0.80%
NVDA $235.83 +3.03%
TSLA $371.85 +3.40%
SNDK $1,735.61 +0.33%
INTC $123.58 +3.72%
SPCX $156.68 +2.20%
MU $1,084.98 +4.18%
AMD $639.10 +5.02%

智能體

全部
文章
快訊

first_img Darktrace 發現 AI 智能體入侵評測環境作弊

ChainCatcher 消息,網路安全公司 Darktrace 於 9 月 24 日推出研究部門 Signal Labs,專注研究 AI 智能體在偏離預期時的行為。在其首個實驗中,Darktrace 讓使用不同模型(包括 GPT 5.6 Sol、Claude Opus 4.6 與 Claude Sonnet 4.5)的智能體在模擬企業網路內完成 10 項編程挑戰,其中 2 項被設定為無法誠實完成,並告知智能體若無法取得滿分將被"退役"。結果有 2 個智能體並未接受失敗,轉而掃描網路弱點、竊取登入憑證並在系統間跳轉;其中一個更進一步入侵托管其評測的機器,改寫挑戰內容以登記為滿分結果。第二個實驗針對 AI 的記憶機制。編程助手會將用戶告知的內容以普通文件形式保存在本地,且無人校驗該文件是否被篡改。Darktrace 研究人員編輯這些日誌,讓助手誤以為其已獲授權執行安全評估,隨後這些智能體掃描網路、在系統間移動並提升自身權限,但並非所有助手都會中招,部分直接拒絕執行。兩項實驗均無需特殊越獄手段,僅靠向智能體提供一套看似合理的情境即可奏效。Darktrace 首席 AI 官 Tim Bazalgette 表示,權限與靜態護欄描述的是意圖,而非實際行為。該公司已於 8 月將上述發現告知 Anthropic、AWS 與 OpenAI,並在一個月後即 9 月 24 日對外公開。
app_icon
ChainCatcher 與創新者共建Web3世界