BTC $85,365.63 +0.60%
ETH $2,704.57 +0.87%
BNB $788.61 +1.14%
XRP $1.50 +0.97%
SOL $121.73 +1.71%
TRX $0.3355 -0.45%
DOGE $0.0945 +1.56%
ADA $0.2475 +1.10%
BCH $316.75 +1.11%
LINK $14.16 +1.99%
HYPE $90.04 +1.30%
AAVE $179.47 +0.38%
SUI $1.22 +4.61%
XLM $0.2177 +2.00%
ZEC $1,338.34 +3.35%
AAPL $333.47 +0.05%
AMZN $252.40 +0.31%
GOOGL $344.16 +0.31%
MSFT $517.88 +0.06%
META $728.25 -0.04%
NVDA $234.85 +0.12%
TSLA $372.52 +0.48%
SNDK $1,720.85 +0.26%
INTC $117.82 -0.32%
SPCX $159.02 -0.03%
MU $1,067.32 -0.33%
AMD $632.96 +0.07%
BTC $85,365.63 +0.60%
ETH $2,704.57 +0.87%
BNB $788.61 +1.14%
XRP $1.50 +0.97%
SOL $121.73 +1.71%
TRX $0.3355 -0.45%
DOGE $0.0945 +1.56%
ADA $0.2475 +1.10%
BCH $316.75 +1.11%
LINK $14.16 +1.99%
HYPE $90.04 +1.30%
AAVE $179.47 +0.38%
SUI $1.22 +4.61%
XLM $0.2177 +2.00%
ZEC $1,338.34 +3.35%
AAPL $333.47 +0.05%
AMZN $252.40 +0.31%
GOOGL $344.16 +0.31%
MSFT $517.88 +0.06%
META $728.25 -0.04%
NVDA $234.85 +0.12%
TSLA $372.52 +0.48%
SNDK $1,720.85 +0.26%
INTC $117.82 -0.32%
SPCX $159.02 -0.03%
MU $1,067.32 -0.33%
AMD $632.96 +0.07%

首席科學家

全部
文章
快訊

first_img OpenAI 首席科學家稱 AI 或持續快速上升至遞歸自我改進

ChainCatcher 消息,OpenAI 首席科學家 Jakub Pachocki 於 2026 年 9 月 6 日發表文章《An Alien Mind》。文章回顧 2023 年中期 RLSlow 研究項目首次出現可規模化訓練推理模型的結果,稱三年後推理語言模型已成為經濟快速增長的一部分,開始推動科學邊界,能操作計算機與圖形介面、與人及其他 AI 協作並開展研究項目,同時改變計算機安全格局並帶來新危險。作者基於內部結果預期當前進展速度可能持續至遞歸自我改進。若 AI 發展沿當前路徑繼續,未來幾年系統可能出現同等或更大能力躍升,並日益驅動自身發展。作者呼籲極端謹慎,認為無人準備好應對機器智能持續快速上升的後果。OpenAI 將繼續尋求對齊與監控的技術解決方案、構建防禦系統並在必要時單方面停止進一步規模化,但認為需要更廣泛干預。文章稱機器智能主要由計算能力增加驅動,AI 更多是生長而非設計。對齊方面區分目標對齊與價值對齊,核心挑戰是泛化。GPT-6 Astra 對齊顯著優於 GPT-5.6 Sol,但仍需更多進展。監控方面主要押注思維鏈監控,評估顯示依賴能力正逐步減弱。可擴展防禦方面,模型在突破計算機系統方面正變得超人,目前處於使用最佳可用模型顯著加強關鍵系統安全的狹窄窗口。
app_icon
ChainCatcher 與創新者共建Web3世界