ai推理

ChainCatcher 消息，光互連芯片公司 Volantis 在 X 上宣布完成 8800 萬美元 A 輪融資。公司表示，正以光學方案解決 AI 內存瓶頸，為芯片配置大量高速內存，並將單芯片內存帶寬與容量提升數個數量級，以支持超過 10 萬億參數模型的高速推理，單用戶速度最高可達每秒 10000 token。Volantis 稱，該方案初期將用於加速智能體，使編程類任務從數小時縮短至數分鐘或數秒。公司還表示，光學方案可按代際將內存系統提升數個數量級，而非每年約 2 倍。其團隊曾參與首款 CoWoS 產品、早期 HBM、首套矽光 CPO 系統、首批大規模量產可調諧 VCSEL，以及首批以光直接通信的處理器；目前已在芯片封裝內實現超過同等微小電導線 10 倍的傳輸距離，下一代產品已流片，目標是在相關距離上達到帶寬密度紀錄。

ChainCatcher 消息，P Equity Research 與 SemiAnalysis 研究員 Nick Doyle 等在 X Space 討論高帶寬閃存 HBF。Nick 表示，目前判斷 HBF 相對 HBM 的成本溢價能縮小多少仍為時過早，現有數據多為廠商說法，如 Sandisk 稱每比特成本約為 HBM 的八分之一。良率、測試等會隨規模改善，但 TSV、堆疊及 pSLC 模式等結構性成本永久存在，耐久性是關鍵未知數，若磨損超預期將推高成本。HBF 應用場景狹窄，僅面向 AI 推理，尤其是低 batch、長上下文的 MoE 模型，並非 HBM 替代品。實際帶寬目標約 1.6 TB/s，屬 HBM3E 級別，適合順序讀取以加載模型權重，更匹配本地或私有企業少量 GPU 的容量需求，而非超大規模帶寬場景。散熱可靠性尚未解決，閃存在 GPU 旁高溫下會加速劣化，UCIe 分離與每日刷新等緩解措施仍未獲驗證。製造方面，Sandisk/Kioxia 具備 3D NAND 經驗，SK Hynix 補充 HBM 式堆疊能力，但量產仍待證實。整體來看，存儲正轉向分層專業化市場，NAND 短缺預計持續至 2028 年，HBF 可能進一步影響供需。

ChainCatcher 消息，据 0G Labs 官方披露，0G Private Computer 已正式上線，面向 AI Agent 與開發者提供基於 TEE（可信執行環境）的隱私推理服務。用戶可通過 pc.0g.ai 接入服務。官方表示，該產品採用 Intel TDX CPU 與 NVIDIA H100/H200 GPU 組成的硬體隔離環境，所有推理請求均在 TEE 中完成，輸入內容加密傳輸，輸出結果將進行簽名驗證，服務提供方無法直接查看用戶數據。目前，平台已支持 DeepSeek DeepSeek Chat V3、Alibaba Qwen3.6 Plus、Zhipu AI GLM-5-FP8、Qwen3-VL-30B、OpenAI Whisper-large-v3 及 z-image 等模型，並提供兼容 OpenAI API 的介面，開發者可通過修改 base URL 完成遷移。