OpenAIは、悪意のある活動が疑われる北朝鮮のハッカー組織のアカウントを禁止し、削除しました。

ChainCatcher のメッセージによると、ChatGPT の開発者である OpenAI は最近、北朝鮮のユーザーからのアカウントを禁止し、削除したと発表しました。これらのユーザーは、同社の技術を利用して、監視や世論操作を含む悪意のある活動を行っていると疑われています。

OpenAI は報告書の中で、これらの活動が権威主義政権が AI 技術を利用してアメリカや自国の人民に対してコントロールを実施する方法である可能性があると指摘しました。同社はまた、これらの悪意のある操作を検出するために AI ツールを使用していると補足しました。OpenAI は禁止されたアカウントの具体的な数や関連する行動が発生した時間範囲については明らかにしていません。

ある事例では、北朝鮮に関連する可能性のある悪意のある行為者が AI を使用して虚偽の求職者の履歴書やオンラインプロフィールを生成し、西洋企業の職に詐欺的に応募することを目的としています。

さらに、カンボジアの金融詐欺に関連していると疑われる一群の ChatGPT アカウントが、OpenAI の技術を利用してソーシャルメディアや通信プラットフォーム（X や Facebook を含む）上のコメントを翻訳および生成しています。