Anthropic：今年已阻止多起或助研生物武器嘗試

ChainCatcher 消息，据《金融时报》报道，Anthropic 表示，已在今年阻止多起科學家利用其技術開展相關研究的嘗試，這些研究可能有助於研發生物武器。該公司列舉五個案例，稱相關行為者繞過管控措施並混淆研究目的以規避安全防護。Anthropic 在關於模型被用於惡意活動的報告中稱，希望通過分享這些案例，引發 AI 行業以及各國政府就新興生物風險及應對方式展開討論。

案例包括一名來自"不受支持地區"的研究人員使用 Claude，用數周時間規劃涉及禽流感的實驗。Anthropic 稱安全過濾機制將該研究限制在性能最弱的模型上，並強調無法確定上述科學家是否有意造成傷害，研發製造生物武器所需的相同信息也可能被用於研發疫苗。該公司已封禁報告中提到的相關帳戶，但未透露研究人員所屬機構名稱及事件發生國家。