英偉達宣布 Groq 機架全面量產，將部署於 Nebius

ChainCatcher 消息，英偉達高級總監 Dion Harris 當地時間週一宣布，Groq 3 LPX 機架已進入全面量產階段，並將部署在新型雲服務商 Nebius 的數據中心，預計今年晚些時候上線。此舉標誌著英偉達去年 12 月與 Groq 達成約 200 億美元技術授權交易後所獲技術正式實現商業化，多位 Groq 核心員工已加入英偉達，創始人 Jonathan Ross 擔任英偉達首席軟體架構師。

英偉達正加速生產 Groq 晶片並向客戶提供產品，凸顯低延遲推理的重要性。今年 3 月發布的 Groq 3 LPX 為 Vera Rubin 平台推理加速器，架構在晶片裸片上集成 500 兆字節高速 SRAM，以減少記憶體瓶頸。每個 LPX 機架可整合 256 顆 Groq 3，英偉達援引基準測試稱每秒可處理 3400 個 token；該晶片由三星製造。

Harris 表示，低延遲晶片並非取代 GPU，而是針對工作負載不同環節使用合適處理器，雲服務商可對延遲敏感用戶提供更高收費套餐。英偉達 CEO 黃仁勳計劃將面向編程應用的數據中心空間約四分之一分配給 Groq 晶片，其餘部分採用 Vera Rubin 系統，並預計到 2027 年 Blackwell 與 Vera Rubin 累計銷售額達 1 萬億美元。