マイクロソフト、人工知能を利用して有害なコンテンツを拡散する外国のネットワーク組織を提訴

ChainCatcher のメッセージによると、Cryptoslate が報じたところでは、マイクロソフトは 1 月 10 日にバージニア州東区で訴訟を提起し、生成的人工知能技術の悪用によるサイバー犯罪行為に対抗しています。訴訟は、AI サービスのセキュリティ対策を回避して違法なコンテンツを制作した外国の脅威組織を対象としています。

マイクロソフトのデジタル犯罪部門（DCU）は、被告が盗まれた顧客の資格情報を利用して生成的 AI サービスに不正アクセスするツールを開発し、改変された AI 機能を悪用の説明書を添えて転売していると述べています。このような行為は、アメリカの法律およびマイクロソフトの「受け入れ可能な使用ポリシー」に違反しています。

調査の一環として、マイクロソフトは犯罪行為の中心となるウェブサイトを押収し、加害者を特定し、インフラを破壊し、利益モデルを分析しました。さらに、マイクロソフトは AI セキュリティ対策を強化し、プラットフォーム上に追加の措置を展開し、悪意のある行為者のアクセス権を取り消し、将来の脅威を防ぐ対策を実施しました。