Anthropicの共同創設者：オープンソースAIには不可逆的な悪用の危険があり、危険な道を歩む可能性がある

Bitcoin Newsによると、Anthropicの共同創設者兼CEOであるDario Amodeiは、アメリカ合衆国議会で立法者に対し、オープンソースAIの発展が「非常に危険な道」に入っていると述べました。強力な能力を持つAIモデルがオープンソース形式で公開されると、開発者はモデルの使用状況に対する有効な監視能力を失い、悪用行為の監視、アクセス権の撤回、または安全防護メカニズムの動的更新ができなくなり、潜在的なリスクが増大します。

Dario Amodeiは、閉じたモデル体系と比較して、完全にオープンなモデルは安全ガバナンスにおいて持続的な制御を実施することがより難しく、取り返しのつかない悪用の危険をもたらす可能性があると述べました。