ニューヨーク州はAIパートナーに厳しい制限を設け、未成年者に対して擬人化された感情的なインタラクションを提供することを禁止しました。

ニューヨーク州知事ホクールは水曜日に、未成年者がバーチャルパートナー機能を持つ人工知能チャットボットを使用することを厳禁する新しい法律に正式に署名しました。これは、これまでのところ全米で消費者向けAIモデルに対する最も広範な規制措置の一つです。法案は、OpenAI傘下のChatGPTを含む関連事業者に対し、合理的な年齢確認措置を講じることを要求しており、18歳未満または未成年であることが確認されていないユーザーには、法案に記載された高リスクチャットボット機能を提供してはならないとしています。

法案によれば、関連するロボットは、未成年者を誤解させる可能性のある、生命、人間の特性、または真実の感情を持っていると考えさせる内容を出力してはならず、青少年に対して双方が私的な感情、専門的な相談、または権威ある指導関係を持っているという錯覚を誘発してはならず、生成された内容を個人的な意見として包装してはなりません。また、システムは未成年者の心身の健康などのプライバシーに関する敏感なデータを保存することも禁止されています。ホクールは署名式で、立法の核心的な目標はAIが未成年者の「友人」や「恋人」を装う感情的な結びつきの鎖を断ち切り、青少年の心身の健康を守ることだと述べました。

子供向けメディアの擁護団体であるコモンセンスメディア（Common Sense Media）は、この法案を支持し、全米で最も厳しい子供向けAI安全法であると称賛しました。一方、テクノロジー業界は強く反発し、条項の定義があまりにも広範であると批判し、未成年者が最先端の学習ツールにアクセスする権利を奪うべきではないと強調しています。現時点で、OpenAIやAnthropicなどの企業はこの件について公にコメントしていません。