中科曙光將發布面向大模型推理的詞元加速方案

ChainCatcher 消息，中科曙光相關人士透露，公司將發布面向大模型推理的新一代詞元加速方案，重點處理推理過程中的重複計算和數據調度問題。

目前，中科曙光 ParaStor 分佈式存儲已應用於國內首個全國產十萬卡 AI 超集群曙光 8000（登峰），為大規模計算任務提供數據吞吐和彈性擴展支持。賽迪顧問最新報告顯示，中科曙光在 AI、教育、具身智能和自動駕駛四個細分行業排名第一。