Marvell 推出 AI“內存解耦”架構,將解決 Agentic AI 推理帶寬瓶頸
ChainCatcher 消息,据官方消息,Marvell Technology 宣布推出面向 AI 基礎設施的新一代內存解決方案組合,覆蓋伺服器級 AI 存儲、機架級 CXL 內存擴展與池化,以及多機櫃光互聯共享內存,旨在解決 Agentic AI 推理過程中日益增長的內存容量和帶寬瓶頸。Marvell 表示,隨著 AI 模型規模擴大、上下文窗口延長以及 KV Cache 需求增長,傳統計算與內存緊耦合架構正限制 AI 推理效率。通過內存解耦(memory disaggregation),可以讓內存資源更加獨立於計算資源擴展,提高 GPU 利用率並降低數據移動延遲。此次發布的產品包括:Bravera SC6 PCIe 6.0 SSD 控制器:面向 AI 推理存儲場景,可幫助雲服務商將更多 KV Cache 遷移至高性能 SSD,提升基礎設施效率。該產品採用兼容多供應商 NAND 的架構,預計將於 2026 年第四季度開始送樣。Marvell Structera X 內存擴展方案:基於 CXL 技術,支持機架級內存擴展和資源池化,幫助數據中心更靈活地共享和調配內存資源,降低 AI 基礎設施成本。Marvell Photonic Fabric 光互聯內存方案:通過光互聯技術構建跨多機櫃共享內存架構,可支持最高 32TB 溫熱 KV Cache 卸載,並幫助 AI 推理集群提升吞吐能力。Marvell 表示,Photonic Fabric 方案可在現有數據中心空間和功耗限制下,實現最高 2 至 3 倍的 Token 吞吐提升,支持更大規模模型和更長上下文 AI 應用。Marvell 高管 Will Chu 表示,AI 基礎設施正在從單一伺服器架構轉向計算、內存和連接協同運行的系統,未來內存需要更加獨立地擴展,以提升資源利用率和 Token 效率。隨著 AI Agent 和大模型推理需求持續增長,內存容量、帶寬和數據傳輸效率正成為繼算力之後 AI 基礎設施競爭的新焦點。