DeepSeek 宣佈開源 DeepGEMM

Deepseek 在開源週的第三天宣布開放 DeepGEMM 的源代碼。DeepGEMM 是一個專為簡潔高效的 FP8 通用矩陣乘法（GEMM）設計的庫，具有細粒度的縮放能力，這是在 DeepSeek-V3 中提出的。它支持常規和專家混合（MoE）分組的 GEMM。該庫是用 CUDA 編寫的，安裝時不需要編譯，並在運行時使用輕量級的即時（JIT）模塊編譯所有內核。FP8GEMM 庫提供對 V3/R1 訓練和推理的支持。