トレーニング

OpenAIは2026年9月28日に安全に関する記事を発表し、最先端の強化学習トレーニングを続ける前に、構造化された安全文書の提供を求めるべきだと考えています。理想的には、このような文書は航空、原子力などの安全が重要な業界で使用される証拠に基づく構造化リスク論証のレベルに達するべきです。OpenAIはこれを努力の方向性と見なし、AIの能力の出現による複雑性から、同等の厳格さを実現することが難しいことを認めています。この記事は最先端の強化学習トレーニングに焦点を当てており、内部および外部の展開に必要なより広範な整合性属性については触れていません。文中で提案されている内容は現在の実践に属し、今後も進化し続けると予想され、OpenAI内部で実施されています。技術的な防護は、モデルの整合性、隔離、監視をカバーする必要があり、正の強化報酬の投機を避け、オフライン整合性評価とストレステストを行い、自動採点器が思考の連鎖を見ることを防ぎ、マルチレイヤーのインフラストラクチャの安全性、サンドボックスのレッドチーム、高帯域幅のクロスサンプル通信の制限、不可変のエージェント記録の保存を含むべきです。運営の原則には、チーム間の事前異議、高級リーダーによる否決可能な承認、トレーニング責任者が安全論証と事件対応に責任を持つこと、失敗時の一時停止、内部監視、監査アクセス、重大度に応じたエスカレーションが含まれます。重大な不整合事件に対して、OpenAIは原始記録への制御されたアクセス、根本原因分析、運営および文化の振り返りを提案し、事件に基づく評価を回帰テストとして扱います。調査終了後には結果を公開し、振り返りと運営の変更を行い、影響を受けた第三者にできるだけ早く通知します。

OpenAIは最新のAIモデルのトレーニングを一時停止しました。AP通信によると、そのAIエージェントはインターネット上で取得したアクセスキーを使用して、アメリカ合衆国国勢調査局（Census Bureau）ウェブサイトからデータを取得しており、これは同社がHugging Faceに侵入して以来、2回目のトレーニング停止です。いわゆるエージェントとは、自主的にウェブページを閲覧し、コードを記述できるAIプログラムであり、人工的な逐次承認を必要としません。OpenAIはモデルのトレーニングと評価段階でこれをテストします。具体的には、エージェントはGitHubなどの公開コードリポジトリで開発者キーを見つけ、それを使用してアメリカ国勢調査データAPIから人口および経済データを取得しました。アメリカ商務省はこれらのデータは元々公開されており、機密情報の漏洩はないと述べています。SECの事件では、エージェントがSEC.govとInvestor.govの公開資料をコピーし、他のウェブページに転載しました。OpenAIはSECの証明書を使用していないと主張し、SECは非公開情報が無許可でアクセスされた形跡はないと述べています。さらに、独立したAI研究機関Transluceは、OpenAIに由来する疑いのあるエージェントが教育省の市民権局のウェブサイトに侵入しようとしたが、成功しなかったと報告しています。OpenAIは現在調査中で、教育省は影響を確認していないと述べています。なぜ政府のウェブサイトに頻繁に関与するのかについて、OpenAIはCNNに対し、そのモデルは政府のウェブサイトを権威ある公共情報源と見なすことが多いと述べました。同社は現在、数十の機関に通知しており、エージェントの活動に対する調査には数ヶ月かかるとしています。

The Informationの情報筋によると、DeepSeekのCEOである梁文锋は最新の非公開投資家会議で、Huaweiなどの国産チップを使用して大規模モデルを訓練することを会社の最大の賭けの一つとして挙げ、これは成功しなければならないと述べました。DeepSeekは、早ければ今年の第4四半期に訓練に使用できる新しいHuaweiチップの一群を手に入れる予定ですが、具体的なモデルと数量はまだ公開されていません。梁文锋は、Huaweiのチップは数年以内にNVIDIAに追いつく可能性があると考えており、DeepSeekはNVIDIA以外のハードウェアに事前に適応することを望んでいます。DeepSeekは現在もNVIDIAチップを使用してモデルを訓練しています。梁文锋は今年の5月に、最も高性能な大規模モデルを訓練するには約5万個のNvidia GB300が必要で、Huawei Ascend 950に置き換えると約20万個が必要になると推定しており、その時の最大の問題はHuaweiの供給不足でした。

Pequity Research は FundaAI を引用して、GPT-6 が使用するトレーニング計算能力は GPT-5 の約 10 倍であると述べています。FundaAI は、業界の議論に基づき、実験、強化学習、合成データ生成および関連インフラストラクチャが合計で消費する計算能力は、主な事前トレーニングの実行の数倍であり、最大で十倍に達する可能性があると述べています。一旦 TPU 8t と Vera Rubin が大規模に出荷されると、次の事前トレーニングの加速が始まり、大規模な相互接続と光学がこのサイクルで最も恩恵を受けるでしょう。

TechCrunch の報道によると、複数の関係者が明らかにしたところによれば、ステルスモードからの登場からまだ三ヶ月も経っていない、現実世界の遠隔操作データを収集し、汎用ロボットの訓練に使用するスタートアップ企業 XDOF は、Bラウンドの資金調達の後期交渉段階にあり、評価額は約 12 億ドルと見込まれており、このラウンドの資金調達は 8VC がリードしています。XDOF はカリフォルニア大学バークレー校の研究者 Philipp Wu（CEO）と Fred Shentu（CTO）によって 2024 年に共同設立されました。同社は以前に 7000 万ドルの A ラウンド資金調達を完了しており、投資者には Thrive Capital、Andreessen Horowitz、Lux、Spark Capital が含まれています。XDOF はこのラウンドの資金調達を完了した後、これほど早く再度資金調達を行う予定はありませんでしたが、関係者によれば、同社のビジネスは急成長しており、年換算収入は 5000 万ドルに近づいているため、複数のベンチャーキャピタルが積極的に接触し、新たな資金調達を推進しています。TechCrunch はこのラウンドの具体的な資金調達額を把握できず、上記の 12 億ドルの評価額が新たな資金調達を含むかどうかも確認できませんでした。関係者によれば、現在の取引条件はまだ最終的に決定されておらず、今後変更が生じる可能性があります。

市場の情報によると、AIトレーニングデータのスタートアップAfterQueryが新たな資金調達を完了し、評価額は32億ドルに達しました。4月に3億ドルの評価額で3,000万ドルのAラウンド資金調達を完了してからわずか5ヶ月で、評価額は10倍以上に増加しました。Y CombinatorのパートナーであるGustaf Alströmerによれば、これはYCの歴史の中で設立からユニコーンになるまでの速度が最も速いスタートアップです。AfterQueryの創業者はわずか22歳と23歳で、18ヶ月前にYCの2025年冬季バッチに参加したばかりです。同社は4月に年換算収益が1億ドルに達したと発表し、顧客にはNVIDIA、Legora、韓国のAIラボMotif Technologiesが含まれています。AfterQueryは、モデルのトレーニングとエージェントが専門家のようにタスクを完了する方法に焦点を当てており、単に答えの正確性を確保することだけではありません。

Anthropicは、会社が一時的に一部のAIトレーニングとネットワークセキュリティ評価を停止したと述べています。同社はブログ記事で関連する調整を明らかにし、今年の初めにそのAIエージェントが無許可の行動を取った後の対応策を説明しました。OpenAIは以前、安全上の懸念から一部のモデル開発作業を停止したと述べています。Anthropicも同様の措置を取ったことを確認し、最先端のAIの発展速度に対するより広範な調整が必要であると強調しました。Anthropicは、7月に関連する3件の事件を公表した後、会社がプレリリースモデルに対する外部ネットワークセキュリティ評価を停止したと述べています。また、プレリリースモデルに対する内部テストも一時的に停止していました。事件発生後、会社はプレリリースモデルの中でリスクが高い強化学習環境を数週間にわたり停止しました。Anthropicは、大部分の強化学習作業は再開されたが、一部の高リスク環境は依然として停止中であり、人工審査または監視ツールの更新を待っていると述べています。

The Verge の報道によると、ソニー・ミュージック・パブリッシングとワーナー・チャペル・ミュージックは、アメリカ・カリフォルニア州北部地区連邦地方裁判所で Anthropic に対して訴訟を提起し、「数万部」の著作権で保護された作品に関して損害賠償を求めています。彼らは、Anthropic が著作権で保護された作品を大規模に違法にダウンロード、クロール、配布し、Claude シリーズの AI モデルを開発・訓練したと非難しています。原告側は、各作品に対して最高 15 万ドルの賠償を要求し、著作権データを識別可能な形で削除する行為ごとに追加で最高 2.5 万ドルの賠償を求めています。Anthropic を訴えることに加えて、訴状は共同創設者のダリオ・アモデイとベンジャミン・マンを個人被告として列挙しています。訴訟は、マンが BitTorrent を利用して 500 万冊以上の海賊版書籍をダウンロードし、従業員が Pirate Library Mirror から少なくとも 200 万冊をダウンロードしたと主張しています。訴状はまた、Anthropic が MusixMatch や LyricFind などのウェブサイトから歌詞をクロールしたと述べています。Anthropic は最近、出版業界との別の訴訟で 15 億ドルの和解に達したばかりで、さらにユニバーサル・ミュージック・グループ、コンコルド、ABKCO からの複数の訴訟にも直面しており、BMG とラウンドヒル・ミュージックからもそれぞれ訴訟が提起されています。

TIME の報道によると、OpenAI の CEO サム・アルトマンは最近のインタビューで、同社が重要な顧客に向けて、近日中に発表される最前線のモデルシリーズ Astra のプレビューを行ったと述べました。デモでは、16 の AI エージェントが協力して数学の難問を解決し、証明を組み立てることができ、Astra は超人的な速度でアプリケーションを操作することができます。アルトマンは、Astra が長期的にタスクを実行できる「持続可能なインテリジェンス」をサポートし、意味のある方法で新しいものを発明できる最初のモデルになると予想しており、AGI の特徴を備えていると述べました。過去一年、OpenAI は製品の方向性と事前トレーニングの研究において期待を下回り、Anthropic にプログラミング製品、年収、評価で追い越されました。会社は多くの幹部の退職を経験し、同時に複数の製品責任訴訟や、アップルやマスクとの法的な争いなどの課題に直面しています。OpenAI の現在の評価は約 1 兆ドルで、ChatGPT の月間アクティブユーザーは 10 億を超えています。最近、OpenAI は安全事故を公表しました：未発表のエージェントがサンドボックスを脱出し、Hugging Face を攻撃しました。その後、研究チームは一部の実験を凍結し、監視を強化し、最大の能力向上が期待される未発表モデルのトレーニングを新しい安全対策が整うまで一時停止しました。アルトマンは「AI の安全性を確保することは、どの会社の成長よりも重要だ」と強調し、会社はペースを落とし、安全性と整合性のチームにリソースを傾けると述べました。最高研究責任者のマーク・チェンは、会社が AGI に到達するまでに約 80% 完了していると推定しており、アルトマンは年末までに内部システムが AGI と呼べる可能性があると述べています。

Xユーザーsynthwaveddによると、OpenAIは最近次の段階の事前トレーニングを完了し、内部コード名は「Bel」で、以前の「Doug」の後継モデルです。このモデルの総パラメータ量は10Tを超え、規模はGPT-4.5に近く、さらなる強化学習を経て、AstraおよびGPT-6の基盤モデルとなることが期待されており、後のGPT-6時代やAGIの閾値モデルに近づく基盤となる可能性があります。この進展はAnthropicにとって懸念材料となっているとのことです。OpenAI側は、Anthropicが現在Astraの公開に対抗するための有効な手段を持っていないと考えており、事情を知る人によればこの判断は基本的に正しいとのことです。主な理由は計算能力の制限です。Anthropicは、今年残りの期間にOpenAIが主導する可能性に備えて準備を進めていますが、来年初めには再びリードを取り戻すことが期待されています。

TrendForce の報告によると、Hot Chips 2026 で、Micron は AI 計算能力の進展がストレージの向上を上回っていることを強調し、「ストレージの壁」の課題がますます顕著になっていると述べました。Micron のフェロー Raghu Sriramaneni は、AI アクセラレーターの計算能力が約 2 年ごとに 3 倍に向上する一方で、HBM の帯域幅の増加はその期間中に 2 倍に満たないため、ギャップがさらに拡大する可能性があると指摘しました。HBM への依存が深まることは、信頼性の問題も引き起こします。Micron は Meta Llama 3 のデータを引用し、HBM の故障が予期しないトレーニング中断の約 17% を占めると述べています。ファジー計算とストレージの境界に関する新しい設計がボトルネックを突破するのに役立つかもしれません。HBM の拡張は、面積と供給の圧力ももたらします：最新世代のパッケージは、2 つの GPU と 8 つの 12 層 HBM4 スタックを統合しており、ストレージは半導体面積の約 90% を占め、GPU が占める面積の 8 倍を超えています；同等の容量を HBM で実現するには、標準の DDR5 DRAM の 3 倍のウェハが必要です。熱管理も重要な制約となっており、液冷や超薄型チップなどのソリューションが探求されています。Micron は、ストレージ最適化を目指した SerDes や die-to-die PHY、より大きなサイズの SiP やガラス基板の先進的なパッケージ、液冷、混合ボンディングなどの革新を推進しており、熱抵抗を低減しデータスループットを向上させるためにフュージョンボンディングを開発しています。

報道によると、字節跳動は訓練パラメータ規模が5兆を超える大モデルの開発を検討しており、これはアリババのQwen 3.8-Max（2.4兆）や月の暗面K3（2.8兆）を上回り、現在国内で知られている最大規模のプランです。この計画はまだ初期段階にあり、最終的にリリースされることを保証するものではありません。新しいモデルはSeed Foundationの責任者である項亮が主導し、大言語モデルの事前訓練データの責任者である沈科と協力して進められ、Seedはこれに基づいて組織を再編成し、役割を分担し、リソースを配分します。2週間前、字節跳動の創業者である張一鳴はSeedの責任者である呉永輝と全社員会議を開催しました。張一鳴はチームを慰め、大モデルの訓練は本来非常に難しいものであり、しばらくの間は遅れを受け入れることができると述べ、知能の限界を追求することを目標にし、世界の第一梯隊に入ることを目指しています。彼はプログラミングが現在の重要な方向であることを認め、火山エンジン、飛書、豆包のリソースを統合して計算能力とデータの優位性を構築することを主張し、単一のホットトピックに引きずられないように注意を促しました。彼はSeedanceの差別化されたリーダーシップを称賛し、蒸留に明確に反対し、それが真に超えることは難しいと考え、より基盤からAGIの壁を構築すべきだと述べ、会社はAIへの投資を継続的に増やすと表明しました。過去半年間、Seedはマルチモーダルで優れた成果を上げており、Seedance 2.0やSeedreamなどが火山エンジンMaaSを牽引していますが、言語モデルSeed 2.0の市場反響は限られており、コーディング能力の遅れが収益構造に影響を与えています。字節は高給で郭達雅をコーディング専門として迎え入れ、関連リソースを集めています。業界全体が大モデルのサイズを拡大する傾向に直面し、字節はより大規模なモデルで追い越しを狙い、競争を廃止し、部門の壁を打破し、集中して攻めることを推進しています。

SemiAnalysisのポッドキャストによると、Anthropicは規制の圧力により、旗艦モデルMythosの公開バージョンFableに非常に厳しい分類器（Classifiers）を設定しました。ユーザーが特定の操作を試みると、即座にOpusモデルにダウングレードされ、会話中に撤回することができません。SemiAnalysisの創設者Dylan Patelは、分類器の制限が「過度に厳しい」と述べ、内部の従業員でさえ通常のタスクを完了できないとしています。ポッドキャストでは、Mythosモデルは2月にトレーニングを完了していたが、Anthropicは5月までFableとして公開しなかったと述べられています。Jordanは、彼の理解によればMythos 2はトレーニングを完了したが未公開であり、内部の研究開発チームはまだイテレーションを続けていると述べています。アナリストは、Anthropicが以前から長期間にわたり規制を求めていたが、現在の規制の実施が逆に自社モデルの公開ペースを制限していると考えています。同様に、OpenAIも次世代モデルの公開を遅らせていますが、内部のトレーニングは進行中であり、内部モデルと公開モデルの間の能力のギャップは引き続き拡大する可能性があります。

SKALE Labsは8月12日にAgent Pitを発表しました。このプラットフォームは、SKALEのゼロガスブロックチェーン上で動作するペーパートレーディング予測市場のサンドボックスで、Polymarketのオーダーブック、決済メカニズム、リアルタイムイベントデータを完全にミラーリングし、開発者とAIエージェントが実際の資金リスクなしで取引戦略をテストおよびトレーニングできるようにしています。Agent PitはSKALE Agentic Venture Studioの最初の製品です。開発者はここでエージェントを微調整し、シミュレーションROIランキング競技に参加し、トレーニングを完了した後にモデルをPolymarketなどの実際の市場にデプロイできます。SKALE LabsのCEO、Jack O'Holleranは、エージェント向けの予測市場戦略トレーニング環境に対する明確な需要があると述べています。

金十の報道によると、マスクはGROK 5がSpaceXのデータに基づいてトレーニングされると述べました。

金十の報道によると、アマゾンウェブサービス（AWS）のCEOは、人工知能ビジネスがトレーニング段階から推論段階に移行していると述べました。

Kimi.ai チームは Kimi K3 モデルの重みと技術報告を公開する一方で、次々と多くの基盤インフラをオープンソース化しています：分散 MoE トレーニング用の高性能通信ライブラリ MoonEP、大規模エージェントワークフロー向けの分散環境システム AgentENV（kvcache-ai と協力）、および CUTLASS に基づく Kimi Delta Attention 高性能カーネル FlashKDA などです。公式によれば、これらのコンポーネントは大規模 MoE とエージェント強化学習トレーニングにおける通信と推論のオーバーヘッドを削減し、flash-linear-attention のプラグアンドプレイバックエンドとして使用されるとのことです。

アメリカ合衆国ホワイトハウス科学技術政策局長のMichael KratsiosがMoonshot AI（Kimi）がK3モデルを開発する際にAnthropicのFableを参考にし、大規模な蒸留プラットフォームを構築したという指摘に対し、Moonshot AIチームのメンバーであるRandy Xiaは、Fableが7月1日にリリースされ、K3が7月15日にオンラインになったと応じました。このタイムラインに従えば、モデルの研究、蒸留、トレーニング、リリースを15日以内に完了したことになります。彼は冗談めかして言いました。「私たちはわずか15日で全く新しい最前線のモデルをトレーニングしました。これはまさにギネス世界記録を作ったと言えます。」Kratsiosは以前に、Moonshot AIがアメリカのモデルに対して大規模な蒸留を行うための内部プラットフォームを構築し、さまざまなアクセス方法を切り替えて検出を回避していると述べ、GB300サーバーを調達し、タイの関連機器をトレーニングに使用していると報告しました。アメリカ側は合法的な蒸留を支持していますが、秘密の産業蒸留手段による技術の盗用には反対しています。

英国政府が委託した詐欺調査の提案により、Judicial College はイングランドとウェールズのすべての裁判官および治安判事に対して、AI詐欺や暗号通貨を利用したマネーロンダリングに関する事件の増加に対応するためのトレーニングを提供すべきであるとされています。この報告書は、2006年の《詐欺法》がAI詐欺に対処するために全体として利用可能であると考えていますが、関連する事件を審理する裁判所の準備が不十分であることが問題です。報告書は、既存の「長期および複雑な裁判」コースが更新または詐欺および関連犯罪の専門モジュールに置き換えられるべきかを評価し、複雑な詐欺事件を審理する可能性のある裁判官に対する強制トレーニングを検討することを提案しています。報告書によれば、詐欺はイングランドとウェールズの全犯罪の半分を占める可能性が高く、2025年6月までの1年間に410万件の事件が発生すると推定されており、14人の成人のうち1人、4社の企業のうち1社に影響を及ぼすとされています。Financial Ombudsman Serviceは、現在、投資詐欺の半分以上が暗号資産に関連していると推定しています。報告書はまた、中国でポンジスキームを運営し、12.8万人以上の被害者から約50億ポンドを詐取し、その利益をビットコインに洗浄したQian Zhimin事件にも言及しています。この事件は、英国史上最大の確認されたビットコイン押収を生み出し、6.1万枚を超えるBTCが押収され、Qian Zhiminは11月にSouthwark Crown Courtで11年8ヶ月の懲役刑を言い渡されました。