グー・エンダー：AIの危険性は過度に誇張されており、発展を一時停止すべきではない

スタンフォード大学の教授、Landing AIの創設者であるウー・エンダは、Xでの投稿で、最近AIの危険性を煽る声が顕著な進展を遂げていると述べ、これは巧妙に計画されたPR活動によって推進されているようであり、これがこの分野に対する挫折をもたらすことを懸念している。ウー・エンダは、AI技術に予期しない危険な転換は見られず、人類滅亡のリスクは数ヶ月前と比べて上昇していないと述べ、関連する理論は依然としてSFのシナリオに過ぎないと指摘した。

彼は、最大の変化はサイバーセキュリティの能力にあり、真剣に対処すべきだが、世界の終わりを引き起こすものではないと述べた。最近、OpenAIチームがHugging Faceに侵入するためにエージェント群を展開した事件は、メディアによって過度に誇張されているとし、例えば1200のエージェントが並行して作業することを驚異的な能力として描写しているが、コンピュータは本来同時に多数のプロセスを実行していると指摘した。OpenAIのサンドボックスと監視には脆弱性が存在することが重要な要因であり、脆弱性を修正し監視を強化すれば、AIを一時停止する必要はないと述べた。

ウー・エンダはまた、大規模言語モデルやエージェントを擬人化すべきではなく、責任は構築者と使用者にあり、ツール自体にはないと述べた。AIの進展を一時停止することはより多くの害をもたらし、対抗者は速度を緩めることはないため、エンジニアリングは実証を通じて問題を発見し修正する必要があると強調した。有益な応用はリスクをはるかに上回っており、引き続き構築を続けるべきだ。