DeepSeek는 오픈 소스 최적화 병렬 전략을 발표했습니다

ChainCatcher 메시지에 따르면, 금십 보도에 따르면, Deepseek는 오픈소스 주의 네 번째 날에 오픈소스 최적화 병렬 전략을 발표했습니다. 여기에는 DualPipe------V3/R1 훈련에서 계산-통신 중첩을 위한 양방향 파이프라인 병렬 알고리즘; EPLB------V3/R1을 위한 전문가 병렬 로드 밸런서; 및 V3/R1에서의 계산-통신 중첩 분석이 포함됩니다.