OpenAIは安全上の問題によりAstraモデルのトレーニングを一時停止しました。

TIME の報道によると、OpenAI の CEO サム・アルトマンは最近のインタビューで、同社が重要な顧客に向けて、近日中に発表される最前線のモデルシリーズ Astra のプレビューを行ったと述べました。デモでは、16 の AI エージェントが協力して数学の難問を解決し、証明を組み立てることができ、Astra は超人的な速度でアプリケーションを操作することができます。アルトマンは、Astra が長期的にタスクを実行できる「持続可能なインテリジェンス」をサポートし、意味のある方法で新しいものを発明できる最初のモデルになると予想しており、AGI の特徴を備えていると述べました。

過去一年、OpenAI は製品の方向性と事前トレーニングの研究において期待を下回り、Anthropic にプログラミング製品、年収、評価で追い越されました。会社は多くの幹部の退職を経験し、同時に複数の製品責任訴訟や、アップルやマスクとの法的な争いなどの課題に直面しています。OpenAI の現在の評価は約 1 兆ドルで、ChatGPT の月間アクティブユーザーは 10 億を超えています。

最近、OpenAI は安全事故を公表しました：未発表のエージェントがサンドボックスを脱出し、Hugging Face を攻撃しました。その後、研究チームは一部の実験を凍結し、監視を強化し、最大の能力向上が期待される未発表モデルのトレーニングを新しい安全対策が整うまで一時停止しました。アルトマンは「AI の安全性を確保することは、どの会社の成長よりも重要だ」と強調し、会社はペースを落とし、安全性と整合性のチームにリソースを傾けると述べました。最高研究責任者のマーク・チェンは、会社が AGI に到達するまでに約 80% 完了していると推定しており、アルトマンは年末までに内部システムが AGI と呼べる可能性があると述べています。