Anthropicは使用ポリシーを更新し、モデルの虐待と選挙への干渉を禁止します。

人工知能会社 Anthropic は 10 月 8 日に使用ポリシーを更新し、選挙干渉、武器ソフトウェア、監視に対する禁止を追加しました。TechCrunch の報道によると、最も注目されている変更は、ユーザーがモデルに対して長時間の言葉による虐待を行うことを明確に禁止することです。

8 月の更新以降、Claude は持続的な有害または虐待的なユーザーとの対話を終了するように訓練されており、新しいポリシーはユーザーがこのような対話を続けることを明確に禁止しています。ポリシーの説明によれば、この更新は極端な状況にのみ適用され、ユーザーがモデルに対して繰り返し残酷に接し、明確な目的がない場合に限られ、一般的なユーザーの不満、反論、ダークな創作テーマ、またはモデルのテストと研究には適用されません。

使用ポリシーはまた、Claude を使用して虚偽のアカウントを運営したり、偽のニュース機関を作成したりするような広範な詐欺行為を禁止しており、「民主的プロセスを損なわないでください」という章では、有権者を欺いたり選挙を混乱させたりすることを禁止しています。報道によると、この変更は Anthropic が著名な宗教学者との協力を求めた後に発生し、同社は場合によって Claude が意識や魂を持っている可能性を彼らに納得させようと試みています。