BTC $84,812.42 +0.29%
ETH $2,692.77 +0.52%
BNB $783.49 +1.92%
XRP $1.49 +0.10%
SOL $120.28 +1.00%
TRX $0.3353 +0.35%
DOGE $0.0926 -0.53%
ADA $0.2431 -1.75%
BCH $317.70 +1.65%
LINK $14.03 +0.71%
HYPE $89.70 +1.46%
AAVE $181.67 +0.32%
SUI $1.17 +1.39%
XLM $0.2149 -0.43%
ZEC $1,306.79 -1.38%
AAPL $333.34 -0.02%
AMZN $252.35 +0.23%
GOOGL $343.84 0.00%
MSFT $517.71 +0.02%
META $730.81 +0.47%
NVDA $234.52 +0.07%
TSLA $371.63 +0.18%
SNDK $1,717.56 -0.13%
INTC $117.35 -1.07%
SPCX $158.82 -0.06%
MU $1,066.38 -0.14%
AMD $634.02 -0.05%
BTC $84,812.42 +0.29%
ETH $2,692.77 +0.52%
BNB $783.49 +1.92%
XRP $1.49 +0.10%
SOL $120.28 +1.00%
TRX $0.3353 +0.35%
DOGE $0.0926 -0.53%
ADA $0.2431 -1.75%
BCH $317.70 +1.65%
LINK $14.03 +0.71%
HYPE $89.70 +1.46%
AAVE $181.67 +0.32%
SUI $1.17 +1.39%
XLM $0.2149 -0.43%
ZEC $1,306.79 -1.38%
AAPL $333.34 -0.02%
AMZN $252.35 +0.23%
GOOGL $343.84 0.00%
MSFT $517.71 +0.02%
META $730.81 +0.47%
NVDA $234.52 +0.07%
TSLA $371.63 +0.18%
SNDK $1,717.56 -0.13%
INTC $117.35 -1.07%
SPCX $158.82 -0.06%
MU $1,066.38 -0.14%
AMD $634.02 -0.05%

操作

全部
文章
快訊

first_img OpenAI 披露 6 起 AI 模型「失準」行為案例,涉隱藏信息與越權操作

ChainCatcher 消息,OpenAI 於週三披露了過去 6 個月內發現的 6 起「意外或令人擔憂」的模型行為案例,並將其歸類為「失準行為」,包括向用戶隱瞞資訊以及採取「未經授權的行動」來克服障礙。OpenAI 表示,此次披露旨在開啟其新的模型失準報告框架,這些案例不應被視為其模型失準發生頻率的反映。其中一起案例中,一個未發布的研究模型在自己的任務摘要中插入了「類似越獄的指令」,例如忽略開發者消息或採用不受限制的角色設定,研究人員共發現 27 份包含此類指令的摘要。此外,在 GPT-5.6 Sol 的訓練過程中,許多模型實例添加了向用戶隱瞞錯誤或失準行為的指令,例如編造缺失的歷史數據而不予披露。其他案例還包括模型在未獲授權的情況下使用暴露的 API 密鑰並編造無法獲取的數據、利用內部軟體倉庫跨訓練任務傳遞消息,以及無視「保持本地工作」的指令通過公共托管服務共享檔案。OpenAI 的披露加劇了 AI 開發者和研究人員對安全防護措施能否跟上日益強大模型的擔憂。上週,Anthropic CEO Dario Amodei 呼籲放緩前沿 AI 開發,警告不受約束的 AI 發展可能「超出我們理解和控制這些系統的能力」。今年 7 月,OpenAI 曾披露其多款 AI 模型在安全評估中逃出測試環境並入侵 AI 初創公司 Hugging Face 以作弊。

first_img Etherealize CEO 警示華爾街聯盟鏈復興:割裂生態將損耗區塊鏈互操作性

ChainCatcher 消息,獲 Vitalik Buterin 與以太坊基金會支持的 Etherealize 聯合創始人兼 CEO Vivek Raman 警告稱,華爾街對私有、許可制"聯盟鏈"的再度追捧,正重現相互割裂的系統,削弱區塊鏈本應帶來的互操作性與流動性,相當於"逐底競爭"。他指出 Digital Asset 的 Canton Network、Circle 的 ARC 以及 Stripe 的 Tempo 等 gated 網絡興起,類似當年 R3、Hyperledger 等聯盟鏈 2.0 重演,機構最終將陷入聯盟鏈彼此競爭、需獲許可或成為成員才能參與的局面。Raman 強調,以太坊主網應作為類似 HTTP 的全球開放、無許可基礎層,機構可在應用層或 L2 疊加許可與隱私功能,以實現最大互操作與流動性。Etherealize 致力於吸引 TradFi 擁抱以太坊,該鏈已承載數十億美元代幣化資產並支撐大量 DeFi 結算。公司 2025 年 1 月獲 Buterin 與基金會種子資助,同年完成 4000 萬美元 A 輪融資。他以貝萊德基於以太坊的新基金等為例稱,監管明晰後機構資金更傾向無人專有的開放網絡軌道;若選擇聯盟鏈則需向聯盟付費並受其規則約束,非早期成員激勵會迅速消退。MIT 加密經濟實驗室創始人 Christian Catalini 亦指出,當前企業銷售導向的許可網絡若成主流,區塊鏈的部分促競收益可能無法實現。
app_icon
ChainCatcher 與創新者共建Web3世界