DeepSeek 全面開源推理框架 DeepInfer 兼容華為昇騰

ChainCatcher 消息，DeepSeek 宣布全面開源其內部推理框架 DeepInfer，並同步開源生產級 Token 編解碼組件 deepseek-recipe。DeepInfer 集成高性能算子與深度優化推理引擎，支持分佈式推理、推測解碼、SWA Bounded Replay 及結構化輸出，兼容英偉達與華為昇騰平台。

DeepSeek 表示，已基於 DeepInfer 實現 DeepSeek V4.1 Flash 的高吞吐、低延遲大規模推理服務，未來新模型的推理代碼及優化也將在此持續更新。deepseek-recipe 與 DeepSeek 官方 API 處理邏輯完整對齊，旨在確保社區獲得與官方部署一致的體驗。開源倉庫及技術報告已同步發布。