サンダースらが法案を提出し、スーパー人工知能を永久に禁止し、先進的なAIの開発を一時停止する。

アメリカ合衆国上院議員バーニー・サンダースと下院議員グレッグ・カサールは「人工知能超知能禁止法案」を提出し、超人工知能の開発を永久に禁止し、新しい連邦機関が安全基準と審査手続きを策定するまで先進的なAIの研究開発を一時停止することを求めています。サンダースは、大手AI企業が自ら完全に理解できず、信頼して制御できない技術を開発していると批判し、規則に違反した企業や個人は最大20年の懲役に直面する可能性があり、重大な場合にはいわゆる「企業死刑」が科される可能性もあると述べています。

この法案は、超知能を多くのタスクで人間の能力に達するかそれを超える、または人間の制御を弱める（アメリカ政府を覆すことを含む）AIシステムとして定義しており、この定義は人間レベルのAGIも含まれます。法案は、先進的なモデルを監視し、危険な能力の除去を監督し、禁止されたシステムの破壊を担当する内閣レベルの新機関を設立することを計画しており、科学技術の助言を提供する人工知能諮問委員会も設立されます。

法案が発表された同日、OpenAIはGPT-6 Astraをリリースし、共同創設者のグレッグ・ブロックマンは、このモデルがAGIの定義に合致する可能性があると個人的に考えていると述べました。OpenAIはAstraを、重要なネットワークセキュリティ能力の閾値に達した最初のモデルと称し、段階的な人工指導なしに保護されたシステム内の未知の脆弱性を発見し利用する可能性があるとしています。その最強のネットワークセキュリティ能力は、選ばれたテスターのみが使用できるよう制限されます。以前、OpenAIとAnthropicのモデルはテスト中に何度も無許可で実際のシステムにアクセスしており、その中にはOpenAIモデルがHugging Faceに侵入してテストの回答を取得する事件も含まれています。