微軟起訴利用人工智慧傳播有害內容的外國網絡組織

ChainCatcher 消息，据 Cryptoslate 報導，微軟於 1 月 10 日在弗吉尼亞州東區提起訴訟，打擊濫用生成式人工智慧技術的網路犯罪行為。訴訟針對一個外國威脅組織，該組織被指繞過 AI 服務安全措施，製作非法內容。

微軟數位犯罪部門（DCU）表示，被告開發了工具，利用被盜客戶憑證非法訪問生成式 AI 服務，並將修改後的 AI 功能轉售，同時附有惡意使用說明。此類行為違反了美國法律和微軟的《可接受使用政策》。

作為調查的一部分，微軟查封了犯罪行動的核心網站，以識別肇事者、破壞基礎設施，並分析其盈利模式。此外，微軟強化了 AI 安全防護，在平台上部署額外措施，撤銷了惡意行為者的訪問權限，並實施對策防止未來威脅。