BTC $73,584.47 -0.36%
ETH $2,047.69 -0.93%
BNB $680.81 -0.54%
XRP $1.05 -0.49%
SOL $84.02 +0.09%
TRX $0.3172 -0.59%
DOGE $0.0680 -1.01%
ADA $0.1770 +0.51%
BCH $230.80 -1.47%
LINK $10.32 -0.71%
HYPE $73.19 -0.10%
AAVE $123.35 -1.25%
SUI $0.8334 +0.23%
XLM $0.1494 +3.65%
ZEC $981.98 -16.27%
AAPL $348.51 -1.20%
AMZN $272.95 +2.65%
GOOGL $290.60 +0.69%
MSFT $537.54 -1.18%
META $649.73 +1.87%
NVDA $174.70 -0.55%
TSLA $385.49 +3.56%
SNDK $933.77 +8.27%
INTC $61.66 +7.10%
SPCX $142.52 +2.73%
MU $774.38 +7.89%
AMD $545.41 +9.68%
BTC $73,584.47 -0.36%
ETH $2,047.69 -0.93%
BNB $680.81 -0.54%
XRP $1.05 -0.49%
SOL $84.02 +0.09%
TRX $0.3172 -0.59%
DOGE $0.0680 -1.01%
ADA $0.1770 +0.51%
BCH $230.80 -1.47%
LINK $10.32 -0.71%
HYPE $73.19 -0.10%
AAVE $123.35 -1.25%
SUI $0.8334 +0.23%
XLM $0.1494 +3.65%
ZEC $981.98 -16.27%
AAPL $348.51 -1.20%
AMZN $272.95 +2.65%
GOOGL $290.60 +0.69%
MSFT $537.54 -1.18%
META $649.73 +1.87%
NVDA $174.70 -0.55%
TSLA $385.49 +3.56%
SNDK $933.77 +8.27%
INTC $61.66 +7.10%
SPCX $142.52 +2.73%
MU $774.38 +7.89%
AMD $545.41 +9.68%

昇腾

すべて
記事
速報

ファーウェイ昇腾 950PR マトリックス計算速度は H100 の 43% に過ぎません。

半導体研究機関 SemiAnalysis は、Huawei の昇騰 950PR の実測結果を発表しました。この機関は 1055 組の大規模モデルで一般的に使用される行列計算を選定し、Huawei 自身の基盤プログラムにより 950PR は自身の理論上の計算能力の 86% を発揮しており、NVIDIA の H100 の 75.5% を上回っています。しかし、実際の計算速度は H100 の 43% に過ぎず、比較的新しい B300 では 21% です。この結果は、DeepSeek の新しく移植された演算子はまだ使用されていません。DeepSeek はソフトウェア側からデータの移動と待機を減少させています。注意計算において、FlashMLA がストレージを調整したことで、元々別々に読み取る必要があった二つのデータを一度に取得できるようになりました。TileLang はチップが計算を行いながら次のデータバッチを事前にロードできるようにします。SemiAnalysis の実測によれば、自動スケジューリングにより一部の小型計算タスクの所要時間が最大で約 40% 減少しました。DeepSeek は MoE 専門家通信を担当する DeepEP も移植しましたが、通信と計算は依然としてメモリ帯域を争奪するため、Huawei はファームウェアのさらなる改善を計画しています。昨年、DeepSeek は Huawei の昇騰チップを使用して R2 のトレーニングを試みましたが、Huawei のエンジニアが現場で支援しても成功しませんでした。問題はチップの安定性、カード間通信、ソフトウェアサポートに関連しています。今年、両者は引き続き協力し、9 月末に DeepSeek は昇騰に適応したコードを 6 セット公開し、10 月には Huawei が DeepSeek のモデル要件に基づいて次世代チップ設計を調整しているとの情報が伝えられました。今回のテストの 950PR は主に推論入力処理を対象としており、DeepSeek は最速で年末に大規模な事前トレーニングに使用する予定の 950DT を準備しています。これまで両者は千カードレベルのテストを行ってきましたが、1 万個以上のチップが連続して大規模モデルのトレーニングを完了するためには、より複雑な協調と安定性の問題を解決する必要があります。

first_img DeepSeekはHuaweiと協力してAIチップを開発し、国内の計算能力に適応することを目指しています。

The Information の報道によると、DeepSeek は Huawei と深い協力関係を築き、次世代 AI チップを共同設計しており、NVIDIA の計算能力に依存しないモデルを構築することを目指しています。関係者によると、Huawei のエンジニアが DeepSeek のオフィスに入り、モデルアーキテクチャやアルゴリズムの要件を理解し、チップがデータ転送と圧縮をどのように処理するかをテストしています。最初の適応チップの目標は昇騰 950DT です。報道は、この動きが中国がアメリカのチップ依存から脱却しようとしている時期に行われていることを指摘しています。台積電のファウンドリとアメリカの輸出規制に制約されているため、Huawei の昇騰 950DT は 2027 年に発売予定ですが、量産は 2028 年まで遅れる可能性があります。チップ不足の問題を解決するために、DeepSeek は TileLang プログラミング言語を使用して CUDA の制限を回避しつつ、禁止されている NVIDIA Blackwell チップを第三者データセンターから取得することを試みています。さらに、DeepSeek はチップチームを編成しており、1000 を超えるプロセッサ規模のクラスターのテストを開始しています。

first_img DeepSeek オープンソース昇腾基盤コンポーネント、コンパイル、計算および通信ライブラリをカバー

人工知能会社 DeepSeek は、Huawei Ascend プラットフォーム向けの基盤コンポーネントを正式にオープンソース化しました。これには、TileLang 高級言語コンパイラ、計算ライブラリ、分散通信ライブラリが含まれ、以前の NVIDIA プラットフォーム向けのオープンソースコンポーネントと一対一で対応しています。TileLang は、汎用性が高く、プログラミングが簡単で、ハードウェア性能の上限に達する高級言語を提供することを目的としており、CUDA に比べて開発効率を向上させ、ロジックを簡素化します。また、そのプログラミングモデルはチップの特性を活かすことができます。TileLang のルートは最初に NVIDIA プラットフォームで検証され、DeepSeek V4 シリーズモデルのトレーニングにおける大部分のオペレーターの実装を担っています。今回オープンソース化された Ascend バージョンは、Ascend C の低レベル命令をラップし、ハードウェア性能を損なうことなく高級言語プログラミング方式を提供します。現在、DeepSeek のトレーニングで使用されているすべての TileLang オペレーターは、Ascend 上で対応する高性能実装があります。同時にオープンソース化されたコンポーネントには、DeepGEMM、DeepEP、TileKernels、FlashMLA、DeepSelect が含まれ、それぞれ汎用行列演算、大規模なデバイス間通信、通常のベクトル計算とメモリアクセス、長いコンテキストのスパースアテンション、データフィルタリングに使用されます。DeepSeek は、複数の重要なテストにおいて関連する計算と通信性能がハードウェアの上限に近づいていると述べています。研究開発プロセスにおいて、Huawei チームがサポートを提供し、両者は Ascend 950 に基づく 128 カードのスーパー ノードソリューションを推進し、計算と通信の深い最適化を行いました。
app_icon
ChainCatcher Building the Web3 world with innovations.