マイクロソフトはAI行動規範の草案を発表し、意見を公募する期間を6週間設けました。

マイクロソフトのAI部門は9月14日にAI行動規範の草案を発表し、そのモデルが化学、生物、放射性、核および爆発物の製造を支援することを禁止し、サイバー攻撃や非自発的なディープフェイクも禁止しています。CEOのムスタファ・スレイマンはXプラットフォームでこの草案を発表し、10月末までの6週間の公衆意見募集を開始しました。

草案は、モデルが回避できない「絶対的制約」を設定しており、人間の介入、停止、または修正に抵抗してはならず、推論過程を隠してはならないとしています。また、マイクロソフトは「モデルの福祉」という概念を明確に拒否し、そのAIモデルは感情、内的動機、または意識を模倣しないと述べています。この規範は現在、MAI-Thinking-1、MAI-Code-1.1-Flashなどの5つの展開済みシステムをカバーしています。

厳格な制限に加えて、草案は人間の繁栄、多様な価値観、および人間の制御という3つの主要目標を提案しています。マイクロソフトは、現在のモデルはこのバージョンに従って訓練されないと述べており、改訂版は年末に発表され、2027年のモデル開発を指導する予定です。公衆のフィードバックには「AIは人間に従属する」という表現に対する哲学的な疑問や、不可逆的な決定の責任主体に対する問いかけ、さらにユーザーが訓練データに対する支払いについて言及していない問題などが含まれています。