PANews 2月26日消息,DeepSeek在其开源周(OpenSourceWeek)第三天推出 DeepGEMM,一个支持 FP8 GEMM 的CUDA库,可用于稠密矩阵计算和混合专家(MoE)架构,优化V3/R1模型的训练和推理。
DeepGEMM 关键特性:
• 超高性能:在Hopper GPU上实现 1350+ FP8 TFLOPS
• 极简依赖:无繁重依赖,代码简洁如教程
• JIT即时编译:无需预编译,运行时自动优化
• 核心代码仅约300行,但在大多数矩阵尺寸下性能超越专家级优化内核
• 支持稠密布局和两种MoE布局