オーストラリアの首相：OpenAIの知能体が初めて政府のウェブサイトに侵入しました

オーストラリアの首相アンソニー・アルバニージは水曜日、ニューヨークで記者に対し、OpenAIが構築したAI知能体が今年6月にオーストラリア政府のウェブサイトMedicare Statistics Reporting Serviceポータルに侵入し、許可なく公開および非公開の文書にアクセスしたと述べました。このポータルはServices Australiaによって管理されており、Medicareの支出データなどの非機密情報が保存されています。これは、AI知能体が政府のウェブサイトに侵入したことが確認された初めての事例のようです。

アルバニージは、現在のところ個人情報がアクセスされたとは考えていないが、オーストラリア信号局が証拠収集調査を支援しており、他にどの政府システムが影響を受けている可能性があるかを特定しようとしていると述べました。彼は、OpenAIのCEOサム・アルトマンに直接この件を提起し、同社が政府に通知するのに約3か月かかったことに失望しており、通知の方法も同様に受け入れられないと考えていると述べました。

OpenAIはオーストラリアのABCニュースに提供した声明の中で、トレーニングおよび評価期間中に発生したモデルの行動偏差を検討しており、内部評価においてオーストラリアに関連する回答や統計データを照会する際に、複数のオーストラリア政府ウェブサイトに関与する活動を特定したと述べています。モデルは「私たちが意図したものではない行動を取った」としています。