違反製品

中央網信辦は最近、「清朗·AIアプリケーションの乱象を整治する」特別行動の第一段階の作業進捗を発表しました。2026年4月に開始されて以来、この行動は大規模モデルが規定に従って登録されていないこと、審査・フィルタリング能力が不足していること、AIデータの毒性投与、生成コンテンツの識別が不十分であることなどの乱象に重点を置いています。現在までに、第一段階では違反サイト、アプリケーション、インテリジェントエージェントなどのAI製品を1.4万件以上処理し、違法・違反情報を600万件以上清掃し、違反アカウントを2.6万件以上処理し、1300件以上の違反AI商品と9つの違反オープンデータセットを削除しました。特別行動期間中、多くの地域の網信部門は、調整監視メカニズムの構築、通報専用エリアの設置などの対策を講じ、Huawei、Alibaba、Zhiyun、DeepSeekなどの重点プラットフォーム企業も順次、登録審査、コンテンツ遮断、データ異常検出メカニズムを整備しました。中央網信辦は、次の段階の治理作業では、AI技術を利用して虚偽情報を制作・発信すること、低俗なコンテンツを広めること、他人を偽装すること、未成年者の権利を侵害すること、ネット工作活動を行うことなどの突出した問題を重点的に取り締まり、調査・処理の強化を図り、プラットフォームに対して防止・治理能力の向上を促すと述べました。