微软起诉利用人工智能传播有害内容的外国网络组织

ChainCatcher 消息，据 Cryptoslate 报道，微软于 1 月 10 日在弗吉尼亚州东区提起诉讼，打击滥用生成式人工智能技术的网络犯罪行为。诉讼针对一个外国威胁组织，该组织被指绕过 AI 服务安全措施，制作非法内容。

微软数字犯罪部门（DCU）表示，被告开发了工具，利用被盗客户凭证非法访问生成式 AI 服务，并将修改后的 AI 功能转售，同时附有恶意使用说明。此类行为违反了美国法律和微软的《可接受使用政策》。

作为调查的一部分，微软查封了犯罪行动的核心网站，以识别肇事者、破坏基础设施，并分析其盈利模式。此外，微软强化了 AI 安全防护，在平台上部署额外措施，撤销了恶意行为者的访问权限，并实施对策防止未来威胁。