Anthropic：今年は多くの生物兵器の試みを阻止しました。

『フィナンシャル・タイムズ』の報道によると、Anthropicは、今年、科学者がその技術を利用して関連研究を行う試みを複数回阻止したと述べており、これらの研究は生物兵器の開発に寄与する可能性があるとしています。同社は、関連する行為者が管理措置を回避し、研究の目的を混乱させて安全対策を回避したとする5つの事例を挙げています。Anthropicは、モデルが悪意のある活動に使用されたという報告の中で、これらの事例を共有することで、AI業界や各国政府が新たな生物リスクとその対策について議論を促すことを望んでいると述べています。

事例には、「支援されていない地域」からの研究者がClaudeを使用し、数週間にわたって鳥インフルエンザに関する実験を計画したことが含まれています。Anthropicは、安全フィルタリング機構がその研究を性能の最も低いモデルに制限したと述べ、上記の科学者が意図的に害を及ぼすつもりであったかどうかは不明であり、生物兵器の開発に必要な同じ情報がワクチンの開発にも使用される可能性があると強調しています。同社は、報告に記載された関連アカウントを禁止しましたが、研究者が所属する機関名や事件が発生した国については明らかにしていません。