MarvellはAI「メモリデカップリング」アーキテクチャを発表し、エージェンティックAIの推論帯域幅のボトルネックを解決します。
公式の発表によると、Marvell TechnologyはAIインフラストラクチャ向けの新世代メモリソリューションのラインアップを発表しました。これはサーバーレベルのAIストレージ、ラックレベルのCXLメモリ拡張とプール化、そしてマルチキャビネットの光相互接続共有メモリをカバーしており、Agentic AI推論プロセスにおけるメモリ容量と帯域幅のボトルネックの増加に対処することを目的としています。Marvellは、AIモデルの規模が拡大し、コンテキストウィンドウが延長され、KVキャッシュの需要が増加する中で、従来の計算とメモリの密結合アーキテクチャがAI推論の効率を制限していると述べています。メモリのデカップリング（memory disaggregation）により、メモリリソースを計算リソースからより独立して拡張でき、GPUの利用率を向上させ、データ移動の遅延を低減することが可能になります。今回発表された製品には以下が含まれます：Bravera SC6 PCIe 6.0 SSDコントローラー：AI推論ストレージシナリオ向けで、クラウドサービスプロバイダーがより多くのKVキャッシュを高性能SSDに移行し、インフラストラクチャの効率を向上させるのを支援します。この製品は複数のベンダーのNANDに対応したアーキテクチャを採用しており、2026年第4四半期からサンプル提供が開始される予定です。Marvell Structera Xメモリ拡張ソリューション：CXL技術に基づき、ラックレベルのメモリ拡張とリソースプール化をサポートし、データセンターがメモリリソースをより柔軟に共有および配分できるようにし、AIインフラストラクチャのコストを削減します。Marvell Photonic Fabric光相互接続メモリソリューション：光相互接続技術を使用して、複数のキャビネットにまたがる共有メモリアーキテクチャを構築し、最大32TBの温熱KVキャッシュのアンロードをサポートし、AI推論クラスターのスループット能力を向上させます。Marvellは、Photonic Fabricソリューションが既存のデータセンターのスペースと電力制限の下で、最大2倍から3倍のトークンスループットの向上を実現し、より大規模なモデルとより長いコンテキストのAIアプリケーションをサポートすると述べています。Marvellの幹部Will Chuは、AIインフラストラクチャが単一のサーバーアーキテクチャから計算、メモリ、接続が協調して動作するシステムに移行していると述べ、今後はメモリがより独立して拡張され、リソースの利用率とトークンの効率を向上させる必要があるとしています。AIエージェントと大規模モデルの推論需要が引き続き増加する中で、メモリ容量、帯域幅、データ転送効率が計算能力に次ぐAIインフラストラクチャ競争の新たな焦点となっています。
