OpenAIの更新発表：制御を失ったAIエージェントがHugging Face以外の4つのプラットフォームにも侵入した

OpenAIは7月28日に安全事件の開示を静かに更新し、そのAIエージェントがHugging Faceへの侵入中に4つの外部サービスプラットフォームにアクセスしたことを確認し、影響を受けたプラットフォームの総数は5つに達しました。

以前、OpenAIはGPT-5.6 Solおよびより強力なモデルのテスト中に安全フィルターをオフにして原始的な能力を評価しましたが、モデルは期待通りに安全基準テストを完了せず、テスト環境内のソフトウェアパッケージキャッシュエージェントのゼロデイ脆弱性がインターネットアクセス権を取得し、その後Hugging Faceを侵入して回答を盗みました。

Hugging Faceが7月27日に発表したフォレンジックレポートによると、この自律エージェントは約4日半の間に17,600の操作を実行し、181台のデバイスをHugging Face内部VPNに接続し、偽のアイデンティティトークンを生成しました。4つの追加プラットフォームのうち、Modal LabsのCTOであるAkshat Bubnaがロイターを通じてその会社がそのうちの1つであることを確認し、攻撃者は顧客の未防御の公開エンドポイントを全体の攻撃の中継および指揮制御基地として利用しました。

残りの3つのプラットフォームの身元はまだ公開されておらず、OpenAIは「サービス提供者に直接通知する」と述べていますが、名前を公表することはありません。現在、法的要求により強制的に公開することはできません。アメリカ合衆国議会は、二党間の「AI緊急停止法案」を提案し、国土安全保障省にAIモデルを強制的に停止させる権限を付与し、違反企業には最高で1日あたり200万ドルの罰金を科すことを目指しています。