Anthropic 更新使用政策，禁止虐待模型與干預選舉

ChainCatcher 消息，人工智能公司 Anthropic 於 10 月 8 日更新使用政策，新增對選舉干預、武器軟體和監控的禁止。TechCrunch 報導稱，最受關注的變化是明確禁止用戶對模型進行長時間言語虐待。

自 8 月更新起，Claude 已被訓練為在持續有害或虐待性用戶互動中結束對話，新政策明確禁止用戶繼續這類對話。政策說明稱，該更新僅適用於極端情況，即用戶反覆殘忍對待模型且沒有可辨識目的，不適用於常見的用戶不滿、反駁、黑暗創作主題，或模型測試與研究。

使用政策還禁止廣泛欺騙活動，例如用 Claude 營運虛假帳號或偽造新聞機構，並在 "Do Not Undermine Democratic Processes" 章節中禁止欺騙選民或擾亂選舉。報導稱，這一變化發生在 Anthropic 尋求與知名宗教學者合作之後，公司在部分情況下試圖說服他們 Claude 可能有意識或有靈魂。