BTC $64,135.01 -0.26%
ETH $1,778.93 -1.79%
BNB $588.90 +0.57%
XRP $0.9650 +1.99%
SOL $72.28 +2.29%
TRX $0.3078 +1.09%
DOGE $0.0583 -0.55%
ADA $0.1520 +0.12%
BCH $208.18 +1.49%
LINK $9.10 +0.05%
HYPE $68.76 +3.79%
AAVE $112.54 +4.16%
SUI $0.7221 +1.30%
XLM $0.1381 +1.10%
ZEC $931.28 +8.36%
AAPL $351.93 -0.82%
AMZN $255.96 -2.09%
GOOGL $280.30 -2.87%
MSFT $502.43 -3.73%
META $617.79 -1.72%
NVDA $150.94 -5.37%
TSLA $377.66 -0.80%
SNDK $764.48 -6.42%
INTC $53.32 -4.68%
SPCX $139.08 +1.29%
MU $678.03 -7.17%
AMD $488.88 -4.18%
BTC $64,135.01 -0.26%
ETH $1,778.93 -1.79%
BNB $588.90 +0.57%
XRP $0.9650 +1.99%
SOL $72.28 +2.29%
TRX $0.3078 +1.09%
DOGE $0.0583 -0.55%
ADA $0.1520 +0.12%
BCH $208.18 +1.49%
LINK $9.10 +0.05%
HYPE $68.76 +3.79%
AAVE $112.54 +4.16%
SUI $0.7221 +1.30%
XLM $0.1381 +1.10%
ZEC $931.28 +8.36%
AAPL $351.93 -0.82%
AMZN $255.96 -2.09%
GOOGL $280.30 -2.87%
MSFT $502.43 -3.73%
META $617.79 -1.72%
NVDA $150.94 -5.37%
TSLA $377.66 -0.80%
SNDK $764.48 -6.42%
INTC $53.32 -4.68%
SPCX $139.08 +1.29%
MU $678.03 -7.17%
AMD $488.88 -4.18%

groq

すべて
記事
速報

first_img AIチップ会社Groqは次世代チップに3DスタッキングDRAMを導入することを計画しています。

ZDNet Korea の 10 月 20 日の報道によると、英偉達に実質的に買収された AI チップ会社 Groq は、次世代チップに DRAM 三次元スタッキングパッケージを導入することを進めており、速度が速いが容量が小さい SRAM ソリューションに代わるものです。Groq は前 Google TPU デザイナーの Jonathan Ross によって 2016 年に設立され、昨年英偉達に間接的に買収されたと報じられています。報道によれば、Groq が評価しているソリューションは 3DS であり、シリコンビアを通じて DRAM チップを垂直に接続する高容量パッケージです。三次元パッケージは複数の裸チップを垂直にスタッキングし、一つのチップとして機能させることができ、平面ソリューションに比べて面積を縮小し、電力効率を向上させます。3DS と HBM はどちらもシリコンビアを使用していますが、HBM は伝送速度に重点を置き、3DS は既存の DRAM インターフェースを維持し、容量の拡張に焦点を当てています。匿名の業界関係者は、Groq が次世代チップに三次元パッケージを採用する計画であり、スタッキングされるのは SRAM ではなく DRAM であると述べています。別の関係者は、市場の需要がより大容量のチップにシフトしているため、Groq は容量で優位性のある DRAM を選択したと述べています。

first_img エヌビディアはGroqラックの全面量産を発表し、Nebiusに展開する予定です。

英偉達の上級ディレクター、Dion Harrisは現地時間の月曜日に、Groq 3 LPXラックが全面的な量産段階に入ったことを発表し、新しいクラウドサービスプロバイダーNebiusのデータセンターに展開される予定で、今年の後半に稼働する見込みです。この動きは、英偉達が昨年12月にGroqと約200億ドルの技術ライセンス契約を結んだ後、得られた技術が正式に商業化されることを示しています。複数のGroqの核心社員が英偉達に参加し、創業者のJonathan Rossが英偉達のチーフソフトウェアアーキテクトを務めています。英偉達はGroqチップの生産を加速し、顧客に製品を提供しており、低遅延推論の重要性を強調しています。今年3月に発表されたGroq 3 LPXはVera Rubinプラットフォームの推論アクセラレーターで、チップのダイ上に500メガバイトの高速SRAMを統合してメモリボトルネックを減少させています。各LPXラックは256個のGroq 3を統合でき、英偉達はベンチマークテストを引用して、毎秒3400トークンを処理できると述べています。このチップはサムスンによって製造されています。Harrisは、低遅延チップはGPUを置き換えるものではなく、異なるワークロードの各段階に適切なプロセッサを使用することを目的としており、クラウドサービスプロバイダーは遅延に敏感なユーザーに対してより高い料金プランを提供できると述べています。英偉達のCEO、黄仁勲は、プログラミングアプリケーション向けのデータセンターのスペースの約4分の1をGroqチップに割り当て、残りの部分はVera Rubinシステムを使用し、2027年までにBlackwellとVera Rubinの累計売上が1兆ドルに達することを見込んでいます。

英偉達:SpaceXAIはVera CPUを用いた加速型AIを展開し、Vera Rubinプラットフォームを宇宙搭載計算に拡張します。

英偉達は公式に、SpaceXAIが次世代エージェントAIアプリケーションを加速するために英偉達のVera CPUを展開することを発表しました。VeraはAIエージェント専用に設計された初のCPUで、88個の英偉達自社開発のOlympusコアを搭載し、空間マルチスレッド技術とLPDDR5X高帯域幅メモリを採用しており、帯域幅は1.2TB/sに達します。エージェントAI、強化学習、データ処理などのシーンにおいて、x86 CPUと比較してタスク完了速度が最大1.8倍向上します。SpaceXAIの社長Mike Nicollsは、VeraのCPU性能とメモリ帯域幅は大規模なタスク編成、コード実行、データ処理を支えるのに十分であり、GPUを最高効率で運用し、1ワットあたりの計算からより多くの有効な成果を得ることができると述べています。SpaceXAIはまた、NVIDIA Vera Rubinプラットフォームに基づいてGrokの背後にあるAIインフラストラクチャを拡張し、ギガワット級の計算容量に向かう計画を立てています。Vera Rubinは英偉達の加速計算、NVLink接続、Spectrum-Xネットワーク、BlueFieldデータ処理技術を統合しており、目標は各トークンのコストを削減し、AIファクトリー全体のエネルギー効率を向上させることです。さらに注目すべきは、SpaceXAIが最適化されたVera Rubin NVL72システムを宇宙に送ることであり、その第一世代Starmind AI衛星はこのラックマウントアーキテクチャを採用し、英偉達の加速計算が地上のデータセンターから軌道計算に拡張される最初の象徴的な展開となります。
app_icon
ChainCatcher Building the Web3 world with innovations.