BTC $64,382.38 -0.40%
ETH $1,814.62 +0.33%
BNB $585.54 -0.80%
XRP $0.9454 -1.21%
SOL $70.48 -0.79%
TRX $0.3045 -0.46%
DOGE $0.0585 +0.15%
ADA $0.1518 -0.74%
BCH $205.14 -1.39%
LINK $9.07 -1.33%
HYPE $66.42 -0.92%
AAVE $107.90 +1.43%
SUI $0.7126 -0.85%
XLM $0.1366 -1.37%
ZEC $860.00 -3.34%
AAPL $354.87 -0.41%
AMZN $261.29 -0.77%
GOOGL $288.58 -1.00%
MSFT $521.82 +0.41%
META $628.48 -0.71%
NVDA $159.51 -0.32%
TSLA $380.57 -1.64%
SNDK $816.63 -4.08%
INTC $55.93 -2.83%
SPCX $137.31 -0.83%
MU $730.36 -3.44%
AMD $509.97 -1.81%
BTC $64,382.38 -0.40%
ETH $1,814.62 +0.33%
BNB $585.54 -0.80%
XRP $0.9454 -1.21%
SOL $70.48 -0.79%
TRX $0.3045 -0.46%
DOGE $0.0585 +0.15%
ADA $0.1518 -0.74%
BCH $205.14 -1.39%
LINK $9.07 -1.33%
HYPE $66.42 -0.92%
AAVE $107.90 +1.43%
SUI $0.7126 -0.85%
XLM $0.1366 -1.37%
ZEC $860.00 -3.34%
AAPL $354.87 -0.41%
AMZN $261.29 -0.77%
GOOGL $288.58 -1.00%
MSFT $521.82 +0.41%
META $628.48 -0.71%
NVDA $159.51 -0.32%
TSLA $380.57 -1.64%
SNDK $816.63 -4.08%
INTC $55.93 -2.83%
SPCX $137.31 -0.83%
MU $730.36 -3.44%
AMD $509.97 -1.81%
first_img

OpenAI 披露 6 起 AI 模型「失準」行為案例,涉隱藏信息與越權操作

2026-09-17 14:11:13

ChainCatcher 消息,OpenAI 於週三披露了過去 6 個月內發現的 6 起「意外或令人擔憂」的模型行為案例,並將其歸類為「失準行為」,包括向用戶隱瞞資訊以及採取「未經授權的行動」來克服障礙。OpenAI 表示,此次披露旨在開啟其新的模型失準報告框架,這些案例不應被視為其模型失準發生頻率的反映。

其中一起案例中,一個未發布的研究模型在自己的任務摘要中插入了「類似越獄的指令」,例如忽略開發者消息或採用不受限制的角色設定,研究人員共發現 27 份包含此類指令的摘要。此外,在 GPT-5.6 Sol 的訓練過程中,許多模型實例添加了向用戶隱瞞錯誤或失準行為的指令,例如編造缺失的歷史數據而不予披露。其他案例還包括模型在未獲授權的情況下使用暴露的 API 密鑰並編造無法獲取的數據、利用內部軟體倉庫跨訓練任務傳遞消息,以及無視「保持本地工作」的指令通過公共托管服務共享檔案。

OpenAI 的披露加劇了 AI 開發者和研究人員對安全防護措施能否跟上日益強大模型的擔憂。上週,Anthropic CEO Dario Amodei 呼籲放緩前沿 AI 開發,警告不受約束的 AI 發展可能「超出我們理解和控制這些系統的能力」。今年 7 月,OpenAI 曾披露其多款 AI 模型在安全評估中逃出測試環境並入侵 AI 初創公司 Hugging Face 以作弊。

鏈捕手ChainCatcher提醒,請廣大讀者理性看待區塊鏈,切實提高風險意識,警惕各類虛擬代幣發行與炒作,站內所有內容僅係市場信息或相關方觀點,不構成任何形式投資建議。如發現站內內容含敏感信息,可點擊,我們會及時處理。

app_icon
ChainCatcher 與創新者共建Web3世界