DeepSeek 宣布開源優化並行策略

ChainCatcher 消息，据金十報導，Deepseek 於開源週第四天宣布開源優化並行策略，其中 DualPipe------包括一種用於 V3/R1 訓練中計算-通信重疊的雙向管道並行算法；EPLB------一種用於 V3/R1 的專家並行負載平衡器；以及分析 V3/R1 中的計算-通信重疊。