自己複製

人工知能会社 Anthropic の前線レッドチーム研究員 William Zhou と Daniel Freeman は 2026 年 10 月 12 日に研究を発表しました。記事によると、小型モデルは数ヶ月以内にスマートオーブンや雑牌 Android TV ボックスなどの商用 IoT デバイス上で自己複製する能力を持つ可能性があります。このような複製体には単一の停止点がなく、倍増時間は日単位で、未知のデバイスに自動的に適応する可能性があります。評価結果は、9B モデルが 9 種類のハードウェアタイプのうち 8 種類で推論を完了したことを示しています。30B およびそれ以下のモデルは多くの単一ステップの複製を完了できるようになりましたが、エンドツーエンドの組み合わせではエラーが発生します。簡略化された評価では、GLM-5.2 およびそれ以上のモデルがエンドツーエンドの複製を完了できました。チームは約 55 ドルの雑牌 Android TV ボックス 15 台で Gemma4-26B-A4B を分散実行し、速度は約 0.39 tokens/秒で、各ボックスはモデルの 2 層を保持しています。エンドツーエンドのテストはファイアウォールの背後にある 8 つの GCP ノードで行われ、未認証の ADB ポートを介して Llama 3.1-8B 推論を構築しました。テストされたオープンソースモデルの中で、GLM-5.2 のみが完全に複製を完了し、5 回の試験のうち 4 回はすべての 8 つのノードに伝播しました。記事では、自主的な複製と適応を発見目標、実行の取得、推論の構築、新しいホストからの継続的な伝播の 4 つのステップに分けており、現在のところ完全な制御不能な複製体は存在しないと述べています。