DeepSeek는 DeepGEMM를 오픈 소스한다고 발표했습니다

ChainCatcher 메시지, Deepseek은 오픈소스 주의 세 번째 날에 DeepGEMM을 오픈소스로 발표했습니다. DeepGEMM은 간결하고 효율적인 FP8 일반 행렬 곱셈(GEMM)을 위해 설계된 라이브러리로, DeepSeek-V3에서 제안된 세밀한 스케일링 기능을 갖추고 있습니다. 이 라이브러리는 일반 및 혼합 전문가(MoE) 그룹의 GEMM을 지원합니다.

이 라이브러리는 CUDA로 작성되었으며, 설치 과정에서 컴파일이 필요 없고, 경량의 즉시 컴파일(JIT) 모듈을 사용하여 실행 시간에 모든 커널을 컴파일합니다. FP8GEMM 라이브러리는 V3/R1 훈련 및 추론을 지원합니다.