遞歸自我改進

ChainCatcher 消息，Google DeepMind 在 Gemini 4 Argon 安全報告中公布首次針對機器學習研發自動化的整體實證評估，結論是 AI 並未加速 AI 自身的研發，儘管 AI 已編寫該實驗室工程師交付的大部分代碼。參與評估的研究員 Haydn Belfield 在 X 上表示，目前不存在顯著的端到端 ML R&D 加速，因此 AI 驅動 ML R&D 的風險目前較低。團隊構建了內部指數 GCI v1，將 123 個 AI 模型在 92 個基準上的得分合成單一數值。前沿 Gemini 能力以約每月 0.1 GCI 點的穩定速度提升，Gemini 1.5 Pro 在 2024 年底接近 0.5 點，Gemini 3.8 Flash 在 2026 年 9 月略高於 2.9 點，Argon 約 3.3 點高於趨勢線，但 Belfield 稱這源於算力與組織投入增加，而非 AI 驅動的加速。DeepMind 生產代碼中超過 75% 由 AI 編寫，完全委託的代碼合併請求比例在 4 月至 9 月間從 7.5% 升至 11.9%，但約 88% 的請求仍需多輪人工引導或人工編寫。對 12 位資深研究者的調查顯示，自動化在明確、可驗證的執行任務中最高，在開放式科學構想、新實驗設計與診斷訓練不穩定等環節最低。

ChainCatcher 消息，智譜 GLM 團隊披露遞歸自我改進方向的首個工程化實踐，由 GLM-5.3 驅動的 Infra Agent 完成了 GLM-5.3-Flash 推理基礎設施的設計、調試與優化。該實踐在十萬卡國產集群上完成，團隊稱其為國內大模型首個遞歸自我改進實踐。

ChainCatcher 消息，OpenAI 首席科學家 Jakub Pachocki 於 2026 年 9 月 6 日發表文章《An Alien Mind》。文章回顧 2023 年中期 RLSlow 研究項目首次出現可規模化訓練推理模型的結果，稱三年後推理語言模型已成為經濟快速增長的一部分，開始推動科學邊界，能操作計算機與圖形介面、與人及其他 AI 協作並開展研究項目，同時改變計算機安全格局並帶來新危險。作者基於內部結果預期當前進展速度可能持續至遞歸自我改進。若 AI 發展沿當前路徑繼續，未來幾年系統可能出現同等或更大能力躍升，並日益驅動自身發展。作者呼籲極端謹慎，認為無人準備好應對機器智能持續快速上升的後果。OpenAI 將繼續尋求對齊與監控的技術解決方案、構建防禦系統並在必要時單方面停止進一步規模化，但認為需要更廣泛干預。文章稱機器智能主要由計算能力增加驅動，AI 更多是生長而非設計。對齊方面區分目標對齊與價值對齊，核心挑戰是泛化。GPT-6 Astra 對齊顯著優於 GPT-5.6 Sol，但仍需更多進展。監控方面主要押注思維鏈監控，評估顯示依賴能力正逐步減弱。可擴展防禦方面，模型在突破計算機系統方面正變得超人，目前處於使用最佳可用模型顯著加強關鍵系統安全的狹窄窗口。