递归自我改进

ChainCatcher 消息，Google DeepMind 在 Gemini 4 Argon 安全报告中公布首次针对机器学习研发自动化的整体实证评估，结论是 AI 并未加速 AI 自身的研发，尽管 AI 已编写该实验室工程师交付的大部分代码。参与评估的研究员 Haydn Belfield 在 X 上表示，目前不存在显著的端到端 ML R&D 加速，因此 AI 驱动 ML R&D 的风险目前较低。团队构建了内部指数 GCI v1，将 123 个 AI 模型在 92 个基准上的得分合成单一数值。前沿 Gemini 能力以约每月 0.1 GCI 点的稳定速度提升，Gemini 1.5 Pro 在 2024 年底接近 0.5 点，Gemini 3.8 Flash 在 2026 年 9 月略高于 2.9 点，Argon 约 3.3 点高于趋势线，但 Belfield 称这源于算力与组织投入增加，而非 AI 驱动的加速。DeepMind 生产代码中超过 75% 由 AI 编写，完全委托的代码合并请求比例在 4 月至 9 月间从 7.5% 升至 11.9%，但约 88% 的请求仍需多轮人工引导或人工编写。对 12 位资深研究者的调查显示，自动化在明确、可验证的执行任务中最高，在开放式科学构想、新实验设计与诊断训练不稳定等环节最低。

ChainCatcher 消息，智谱 GLM 团队披露递归自我改进方向的首个工程化实践，由 GLM-5.3 驱动的 Infra Agent 完成了 GLM-5.3-Flash 推理基础设施的设计、调试与优化。该实践在十万卡国产集群上完成，团队称其为国内大模型首个递归自我改进实践。

ChainCatcher 消息，OpenAI 首席科学家 Jakub Pachocki 于 2026 年 9 月 6 日发表文章《An Alien Mind》。文章回顾 2023 年中期 RLSlow 研究项目首次出现可规模化训练推理模型的结果，称三年后推理语言模型已成为经济快速增长的一部分，开始推动科学边界，能操作计算机与图形界面、与人及其他 AI 协作并开展研究项目，同时改变计算机安全格局并带来新危险。作者基于内部结果预期当前进展速度可能持续至递归自我改进。若 AI 发展沿当前路径继续，未来几年系统可能出现同等或更大能力跃升，并日益驱动自身发展。作者呼吁极端谨慎，认为无人准备好应对机器智能持续快速上升的后果。OpenAI 将继续寻求对齐与监控的技术解决方案、构建防御系统并在必要时单方面停止进一步规模化，但认为需要更广泛干预。文章称机器智能主要由计算能力增加驱动，AI 更多是生长而非设计。对齐方面区分目标对齐与价值对齐，核心挑战是泛化。GPT-6 Astra 对齐显著优于 GPT-5.6 Sol，但仍需更多进展。监控方面主要押注思维链监控，评估显示依赖能力正逐步减弱。可扩展防御方面，模型在突破计算机系统方面正变得超人，当前处于使用最佳可用模型显著加强关键系统安全的狭窄窗口。