再帰的自己改善

Google DeepMindはGemini 4 Argonの安全報告書で、機械学習の研究開発自動化に関する初の全体的な実証評価を発表しました。その結論は、AIは自身の研究開発を加速していないというもので、AIはこの研究所のエンジニアが提供したコードの大部分を作成しています。評価に参加した研究者のHaydn BelfieldはX上で、現在、顕著なエンドツーエンドのML R&D加速は存在せず、したがってAI駆動のML R&Dのリスクは現在低いと述べています。チームは内部指数GCI v1を構築し、123のAIモデルの92のベンチマークでのスコアを単一の数値に統合しました。最前線のGemini能力は、約毎月0.1 GCIポイントの安定した速度で向上しており、Gemini 1.5 Proは2024年末に0.5ポイントに近づき、Gemini 3.8 Flashは2026年9月にわずかに2.9ポイントを超え、Argonは約3.3ポイントでトレンドラインを上回っていますが、Belfieldはこれが計算能力と組織の投入の増加に起因していると述べており、AI駆動の加速ではないとしています。DeepMindが生成するコードの75%以上はAIによって作成されており、完全に委託されたコードのマージリクエストの割合は4月から9月の間に7.5%から11.9%に増加しましたが、約88%のリクエストは依然として複数回の手動ガイドまたは手動作成を必要としています。12人の経験豊富な研究者への調査では、自動化は明確で検証可能な実行タスクにおいて最も高く、オープンサイエンスの構想、新しい実験デザイン、診断トレーニングの不安定性などの段階では最も低いことが示されています。

智谱 GLM チームは、再帰的自己改善の方向性に関する最初のエンジニアリング実践を発表しました。GLM-5.3 によって駆動される Infra Agent が GLM-5.3-Flash 推論インフラストラクチャの設計、デバッグ、最適化を完了しました。この実践は十万カ国産クラスター上で完了し、チームはこれを国内の大規模モデルにおける最初の再帰的自己改善実践と呼んでいます。

OpenAI の首席科学者 Jakub Pachocki は 2026 年 9 月 6 日に記事『An Alien Mind』を発表しました。この記事では、2023 年中期の RLSlow 研究プロジェクトで初めてスケーラブルなトレーニング推論モデルの結果が現れたことを振り返り、3 年後には推論言語モデルが経済の急速な成長の一部となり、科学の境界を押し広げ、コンピュータやグラフィカルインターフェースを操作し、人間や他の AI と協力して研究プロジェクトを展開し、同時にコンピュータセキュリティの状況を変え、新たな危険をもたらすと述べています。著者は内部の結果に基づいて、現在の進展速度が再帰的自己改善に持続する可能性があると予想しています。AI の発展が現在の道筋を続けるなら、今後数年でシステムは同等またはそれ以上の能力の飛躍を遂げ、自らの発展をますます推進する可能性があります。著者は極めて慎重であるべきだと呼びかけ、機械知能の急速な上昇の結果に対処する準備が整っている者はいないと考えています。OpenAI は引き続き整合性と監視の技術的解決策を模索し、防御システムを構築し、必要に応じて一方的にさらなるスケールアップを停止することを目指していますが、より広範な介入が必要であると考えています。この記事では、機械知能は主に計算能力の増加によって駆動され、AI は設計よりも成長していると述べています。整合性の観点では、目標整合性と価値整合性を区別し、核心的な課題は一般化です。GPT-6 Astra の整合性は GPT-5.6 Sol よりも著しく優れていますが、さらなる進展が必要です。監視の観点では、思考の連鎖の監視に主に賭けており、評価は依存能力が徐々に弱まっていることを示しています。スケーラブルな防御の観点では、モデルはコンピュータシステムを突破する能力が超人的になりつつあり、現在は最良の利用可能なモデルを使用して重要なシステムのセキュリティを著しく強化する狭いウィンドウにあります。