BTC $64,275.91 -0.85%
ETH $1,802.66 -0.69%
BNB $589.49 -0.51%
XRP $0.9871 +1.91%
SOL $74.62 +2.00%
TRX $0.3096 +1.36%
DOGE $0.0594 +0.35%
ADA $0.1531 -0.71%
BCH $208.08 -1.07%
LINK $9.15 -0.81%
HYPE $68.87 -0.51%
AAVE $111.84 -1.46%
SUI $0.7251 -1.10%
XLM $0.1404 +0.46%
ZEC $938.12 -1.13%
AAPL $351.09 -0.25%
AMZN $259.61 +0.06%
GOOGL $283.39 -0.24%
MSFT $507.66 -1.68%
META $617.52 -1.13%
NVDA $161.19 +2.17%
TSLA $383.85 +0.62%
SNDK $823.80 -0.70%
INTC $55.67 +0.29%
SPCX $142.59 +2.68%
MU $733.15 -0.68%
AMD $515.79 -0.24%
BTC $64,275.91 -0.85%
ETH $1,802.66 -0.69%
BNB $589.49 -0.51%
XRP $0.9871 +1.91%
SOL $74.62 +2.00%
TRX $0.3096 +1.36%
DOGE $0.0594 +0.35%
ADA $0.1531 -0.71%
BCH $208.08 -1.07%
LINK $9.15 -0.81%
HYPE $68.87 -0.51%
AAVE $111.84 -1.46%
SUI $0.7251 -1.10%
XLM $0.1404 +0.46%
ZEC $938.12 -1.13%
AAPL $351.09 -0.25%
AMZN $259.61 +0.06%
GOOGL $283.39 -0.24%
MSFT $507.66 -1.68%
META $617.52 -1.13%
NVDA $161.19 +2.17%
TSLA $383.85 +0.62%
SNDK $823.80 -0.70%
INTC $55.67 +0.29%
SPCX $142.59 +2.68%
MU $733.15 -0.68%
AMD $515.79 -0.24%

奧特曼

全部
文章
快訊

奧特曼向員工介紹安全開發超級 AI 三條路徑

ChainCatcher 消息,OpenAI 首席執行官奧特曼上週向員工介紹了三種安全開發超級 AI 的方案。第一種是建立類似國際原子能機構的全球監管組織,檢查先進模型並審計安全措施。知情人士稱,奧特曼傾向於這條路線。第二種效仿歐洲核子研究中心,讓各大 AI 實驗室合併到一個組織,或通過統一機構共同研發,而不是繼續各自競速。第三種最極端,被他稱為「Eliezer 方案」:一家 AI 公司率先實現遞歸自我改進,再憑藉壓倒性經濟實力控制算力,使其他開發者無法追趕。奧特曼用「熔毀其他所有公司的 GPU」描述這一設想,同時表示該方案非常糟糕,只是為了把可能性講全。「熔毀 GPU」的設想來自 AI 安全研究者 Eliezer Yudkowsky。他在 2021 年提出思想實驗,讓超級 AI 製造能夠自我複製的納米機器以熔毀全球 GPU,並表示這只是說明干預力度的極端例子,並非主張執行的方案。OpenAI 在 2023 年提出過建立「AI 版國際原子能機構」,Google DeepMind 負責人 Hassabis 也曾主張設立「AI 版 CERN」。目前 OpenAI、Google 和 Anthropic 計劃在今年底或明年初成立聯合安全標準組織,但在模型安全測試責任歸屬上存在分歧。奧特曼希望為 AI 研發設定速度限制,同時表示 OpenAI 眼下不能把競爭優勢讓給對手。
app_icon
ChainCatcher 與創新者共建Web3世界