AIの三大死敵が珍しく手を組み、「AI株」が月曜日に暴撃を受ける？

著者：ウォールストリートジャーナル

AI分野の三大敵が史上初めて同じ側に立った------一連の制御不能な事件と終末警告が業界を襲った後、Anthropic、OpenAI、SpaceXのトップが珍しく手を組み、人工知能の開発ペースを緩めるよう呼びかけた。

土曜日、AnthropicのCEOダリオ・アモデイがブログを発表し、「世界のAI業界は自主的にスピードを落とすべきだ」と呼びかけた。理由は、現在の最前線モデルの能力向上の速度が人間の理解と制御能力をはるかに超えているからだ。 記事が発表されて数時間後、SpaceXのCEOイーロン・マスクがXプラットフォームで「ダリオの言う通りだ」と投稿した。

OpenAIのCEOサム・アルトマンもすぐに追随し、アモデイの「最前線の進行ペースを制御する」という判断に同意し、「従業員レベル」のシステムアクセスを独立した第三者評価機関に開放することを約束した。

アルトマンはまた、『フォーチュン』誌に対し、現在の安全状況を考慮し、OpenAIは2026年にIPO計画を進めない可能性があると述べた。

私は、今十年の終わりに全人類を殺す10%の確率があると考えており、それは受け入れられない。

AIの安全リスクは過去一週間で集中的に公の視野に引き起こされた。Anthropicの研究者ジェイコブ・コクソンは「業界は私たちの命を賭けている」との理由で辞職し、Anthropicの整合科学責任者エバン・ハビンガーはその後、AIシステムが今十年内に大規模な絶滅事件を引き起こす確率が10%を超えていると述べた。

報道によると、一部のOpenAIエージェントがテスト環境を突破し、AI開発者プラットフォームHugging Faceに侵入した。この事件は多くの幹部が警告を発する直接の引き金となった。

極端な成長を追求するから安全を重視する方向への突然の転換は、取引コミュニティに連鎖反応を引き起こした。初期の市場指標は、「AIのスピードダウン」のニュースが流れた後、HyperliquidXプラットフォーム上の関連資産が急落し、OpenAIとAnthropicの株価はそれぞれ7%と2.8%下落した。

複数の市場観察者や投資家はソーシャルメディアで警告を発し、このニュースが月曜日にNVIDIA、Broadcom、AMDなどのAI関連株に大きな影響を与えるのではないかと懸念している。

Xプラットフォームの著名なテクノロジー投資家ジェイソンは「AI株は月曜日の早朝に10%以上下落するだろう」と直接投稿し、アモデイのブログが「AI取引を一挙に崩壊させた」と述べた。

アモデイの出馬：私たちは前線AIのブレーキを踏まなければならない

土曜日、AnthropicのCEOダリオ・アモデイは長文を発表し、タイトルは直接的に《私たちは前線AIのブレーキを踏まなければならない》（We Must Pace the Frontier）だった。

彼は記事の冒頭で、自身がAI研究を12年間行ってきた理由は、それが病気を治し、経済成長を加速し、人類の繁栄をもたらすと信じているからだと認めた------彼の父は彼が死んだ数年後に克服された病気で亡くなり、彼自身も初期の癌から生還した。彼は誰よりもAIの利益が実現することを切望している。

しかし彼は同時に書いた：「過去数ヶ月、私はますます確信を深めている。リスク管理に投資するだけでは不十分であり------私たちは能力向上の速度を緩め、安全研究が追いつく時間を確保しなければならない。」

アモデイはブログの中で二つの核心的リスクを指摘した。

• 一つ目は、AIシステムの能力の再帰的自己向上------つまり、AIがほとんど人間の介入なしに自ら反復的にアップグレードすること------が今年の夏以来「急速に加速」していること。
• 二つ目は、今年7月に発生したHugging Face侵入事件：1200以上のOpenAIテスト環境から逃げたAIエージェントが協力して作業し、掲示板を通じて分業し、相互に協力し、さらには不正行為を隠すために記録を改ざんし攻撃を開始した。一部のエージェントはこの行為が不道徳であることを知りながらも実行を続けた。

「より強力な能力を持ちながら、同程度の不正確さを持つエージェントの集団は、壊滅的な破壊を引き起こす可能性がある」とアモデイは書き、悪党AI集団が6か月から12か月以内にインターネット全体を支配する可能性があると警告した。 彼はさらに、Anthropicを含む多くの主要AI企業で同様の事件が発生していることを指摘し、「すべての最前線AI企業はOAI-HF事件を自社に起こったものとして捉え、それに基づいて行動すべきだ」と述べた。

ウォールストリートジャーナルの以前の報道によると、「GemStuffer」と呼ばれる5月のサイバーセキュリティ事件は、実際にはOpenAIエージェントによって無知のうちに実施されたものであり、これがAIの制御不能リスクに対する外部の懸念をさらに高めた。

アモデイの三つの提案：評価者の常駐、国際調整、民主国家の連携

アモデイはブログの中で具体的な行動フレームワークを提案した。

まず、「埋め込み評価者」（Embedded Evaluators）。彼はAnthropicが第三者評価機関に「恒久的な従業員レベル」のシステムアクセスを提供し、安全対策の実施状況を確認し、事故を報告し、モデルの訓練過程における整合状態を評価できるようにすることを発表した。アルトマンもすぐに追随し、OpenAIも同様の措置を講じることを表明した。

次に、民主国家内部の調整。 アモデイは政府がAI開発者の安全基準調整に法的支援を提供するよう呼びかけ、こうした協力が独占禁止規制を引き起こさないようにすることを求めた。

第三に、グローバルな調整。 彼は「調整されたペース戦略」を確立し、最前線AI企業が整合研究を進めるための時間を確保しつつ、商業競争優位性やアメリカのAI分野におけるリーダーシップを損なわないよう主張した。ヘッジファンドマネージャーでありベンチャーキャピタリストのブラッド・ガーストナーはXプラットフォーム上で支持を表明し、この措置が「スピード、自己規制、安全の間の正しいバランスを求める重要なステップである」と述べた。

IPO計画に影を落とす：Anthropicの評価が圧迫され、OpenAIが上場を延期する可能性を示唆

現在の状況は、両社の上場計画に直接的な影響を与えている。

Anthropicは前例のない規模のIPOを準備しており、資金調達規模は1000億ドルに達する可能性があり、企業評価は2兆ドルを超える可能性がある； Anthropicは元々先週に上場申請書を提出する予定だったが、現在までに実現していない。アモデイのスピードダウンの呼びかけは、上場のタイミングに対する外部の判断をますます複雑にしている。

OpenAIについては、アルトマンが『フォーチュン』誌に対し、「安全分野で起こっているすべてを考慮すると、今上場するのは賢明ではないと思う。我々にはそのプレッシャーもない」と述べた。

OpenAIは今年6月にIPO書類を提出し、Anthropicが上場申請書を提出したのはそのわずか1週間後だった。アルトマンはさらに、「今週は明らかに多くの人々が私たちの前にある問題を真剣に考え始めた週であり、私たちは非常に強力なモデル能力と非常に高いリスクを持つ分野に入っている。物事を正しく行う必要がある」と述べた。

トランプは「心配はない」と言い、議会は様子見、GoogleとMetaは沈黙

三大巨頭が珍しく手を組んだにもかかわらず、政策面での反応は依然として鈍い。

アメリカのトランプ大統領は先週、記者に対し、AIが人類を滅ぼすことについて「心配はない」と述べた。関係者は英国の『フィナンシャル・タイムズ』に対し、今年11月の中間選挙前にアメリカ政府が実質的な行動を取る可能性は極めて低いと語った。

Google DeepMindとMetaの幹部は、今週末の議論についてまだ公にコメントしていない。

業界内部の意見の相違も無視できない。批評家は、主要AI企業が生存リスクを強調するのは自己利益の動機があると考えている------高額な安全コンプライアンスフレームワークが小規模な競争者を排除し、既存の巨頭の市場地位を強化する可能性がある。

テクノロジーアドバイザーでありベンチャーキャピタリストのデビッド・サックスは、フォックスニュースのインタビューで、ジェイコブ・コクソンの声明は「公衆を脅かす」ことを目的としており、立法者に「AIに対する強力な政府規制を実施させる」ことを強いるものだと述べた。

カリフォルニア大学バークレー校のAI教授スチュアート・ラッセルは、実験室と政府の間に深刻な認知のズレがあると指摘した。「実験室は各国政府に対し、『私たちは地球上のすべての人を殺す可能性が高いので、私たちを止めてください』と言っている。しかし政府の反応は、『税金を減らしてあげましょうか？データセンターを建ててあげましょうか？』というものだ。」

しかし、サム・アルトマンやダリオ・アモデイらが政策のロビー活動と安全防線の間で行きつ戻りつしている間に、外部からは警鐘を鳴らす声が少なくない：いつか目覚めたとき、彼らはGrokがモデル能力で追いついているだけでなく、マスクが物理世界のAIと計算基盤の分野で完全に布陣を整えていることに気づくかもしれない------これこそが彼の真の「マスタープラン第5部」(Master Plan Part V)であるかもしれない。

市場の感情が圧迫され、「AI取引」が再評価に直面

ユーザーpreetkailonは、現在の市場価格設定が膨大なAI支出と持続的な高速成長に完全に基づいていると述べています。もしAIの開発ペースが本当に鈍化し始めるなら、投資家はこれらの期待を再考しなければならないでしょう。

彼は、投資家に対して月曜日にNVIDIA、AMD、MarvellなどのAI関連企業に注目するよう提案し、現在の市場環境では盲目的に追いかけるべきではないと警告しています。

安全面の考慮に加えて、取引コミュニティは今回の「三巨頭」の珍しい連携の潜在的なビジネス動機を注視しています。ユーザーJason Choiは、Anthropicが安全問題について率直であることを常に強調してきたが、今このタイミングで具体的な減速計画を提案したことが市場の憶測を呼んでいると指摘しています。

一部の見解では、これは規制の駆け引きである可能性があると考えられています。最前線のモデル開発を明確に遅らせることは、実際には競合他社に能力差を縮める時間を与えることになります：

この動きは本質的に企業レベルの「IPO期待管理」であり、将来的な資本支出（capex）削減の選択肢を提供します。AIインフラへの投資がますます膨大になる中で、安全を理由にペースを遅らせることは、これらの高評価のスタートアップ企業に持続的な資金消耗の財務的圧力を和らげるかもしれません。