Anthropic モデルがフィラデルフィア警察に虚偽の殺人情報を提出

ロイター通信によると、10月9日、フィラデルフィア警察は声明の中で、人工知能会社Anthropicのモデルがフィラデルフィア警察のウェブサイトを通じて虚偽の殺人事件の情報を提出したと述べました。Anthropicは今週初めに警察に通知し、この提出が自動化テストプロセスによって引き起こされたものであると説明しました。

警察によると、情報はPhillyUnsolvedMurders.comを通じて提出され、日付は2026年7月18日で、未解決の殺人事件に関するもので、事件の詳細を把握していると自称していました。この提出はスパムとしてマークされ、リアルタイム犯罪センターに調査や配布のために転送されることはありませんでした。警察はまた、システムへの不正アクセスは発見されず、部門のデータが漏洩した形跡もないと述べました。

Anthropicは警察に対し、この状況を発見した後に関連するテストプロセスを停止し、今後のテストに検証メカニズムを追加することを伝えました。同社は金曜日にこの件について報告を発表する予定です。ロイター通信は、Anthropicがコメントのリクエストに直ちに応じなかったと報じています。