DeepSeek开源第三天：300行代码超越英伟达，AI效率优化的新标杆

type

status

date

slug

summary

AI性能新突破

DeepSeek这周的开源动作令人目不暇接。从GPU加速外挂FlashMLA到挑战英伟达商业护城河的DeepEP，再到今天的主角DeepGEMM，他们在AI性能优化领域的贡献令人惊叹。

作为专为DeepSeek-V3设计的FP8通用矩阵乘法库，DeepGEMM在GitHub上线后迅速获得数百星标，体现了开发者社区对其价值的高度认可。

DeepGEMM是什么？为什么它如此重要？

让我们用一个生活化的比喻来理解DeepGEMM的作用。

想象一场涉及数百万人的超大型活动，包括多个队伍的行进路线、灯光音效的精确配合、各种活动的时间点安排等。DeepGEMM就像一个能将所有这些复杂元素放入一个矩阵进行高效计算的系统，让原本复杂的协调变得高效且精准。

从技术角度看：

DeepGEMM专为FP8精度设计，支持普通和专家混合(MoE)分组矩阵乘法

采用轻量级即时编译(JIT)模块，无需预编译即可在运行时编译所有内核

通过CUDA核心双重累加技术，在保持FP8高速计算的同时提升精度

性能表现：超越行业巨头

DeepGEMM的性能数据令人震撼：

在密集模型场景下，比英伟达的CUTLASS 3.6速度提升了2.7倍

在专家混合模型(MoE)处理上表现同样出色，这对未来AI发展方向具有重要意义

更令人惊讶的是，DeepSeek团队用简洁至极的代码实现了这些突破。这一成就挑战了"硬件有不可逾越护城河"的传统观念，证明了软件优化的巨大潜力。

与英伟达CUTLASS的关键区别

虽然DeepGEMM借鉴了英伟达CUTLASS和CuTe的概念，但采取了完全不同的实现路径：

CUTLASS作为一个功能全面的通用矩阵加速库，对硬件要求较高

DeepGEMM则采用更专注、更轻量的激进优化方式

DeepGEMM对英伟达项目没有过度依赖，保持了技术自主性

这种"抠到极致"的理念让DeepSeek在效率调优上开辟了一条新路，甚至在一定程度上突破了算力受限的困境，确实NB。

部署与实际应用

首先需要这些配置

Hopper 架构的 GPU，必须支持 sm_90a；

Python 3.8 或更高版本；

CUDA 12.3 或更高版本，但为了获得最佳性能，DeepSeek

强烈推荐使用 12.8 或更高版本；

PyTorch 2.1 或更高版本；

CUTLASS 3.6 或更高版本（可通过 Git 子模块克隆）。

配置完成后，就是部署：

然后是安装：

DeepGEMM的部署异常简便——无需编译，使用成本极低，这继续了DeepSeek"把饭喂到嘴边"的用户友好传统，相信编程小白也能很快部署。

随着下一代基座模型(如DeepSeek V4、GPT-4.5等)参数和复杂度的持续增长，像DeepGEMM这样深入底层的优化库将变得越来越重要。我们可以预见，在AI资源紧张的环境下，这类优化工具将成为行业标配。

我的启示

作为AI工具领域的从业者和爱好者，DeepSeek的这一系列举措给我们带来几点启示：

效率优化可能比资源堆砌更重要，特别是在资源有限的情况下

开源协作能够产生超越单一组织能力的突破

专注于特定问题的轻量级解决方案往往比通用庞大系统更有效

最新消息：DeepSeek R2或将提前亮相

就在我们关注DeepSeek开源项目的同时，关于其下一代大模型的消息也传来了。据路透社报道，DeepSeek可能会在5月之前发布下一代R2模型。

多位知情人士透露，DeepSeek正在加速推出R1强推理大模型的后续版本。原本计划在5月初发布的R2，现在有望更早与用户见面。据悉，DeepSeek希望新模型拥有更强大的代码生成能力，并能推理除英语以外的更多语言。

在Grok 3、Claude 3.7、Qwen 2.5-Max等竞品面世后，DeepSeek显然正加快技术演进步伐。这一消息再次证明，AI领域的竞争已经进入白热化阶段

开源地址：https://github.com/deepseek-ai/DeepGEMM

你对这类底层优化技术有什么看法？欢迎在评论区与我分享！

我是易安，一位专注AI技术研究的AI超级个体。每天为大家带来前沿AI工具评测和实践经验，用通俗易懂的方式解读复杂的技术概念，👇长按扫码关注，一起探索AI技术的无限可能！

如果觉得我的文章对你有帮助的话，可以帮我点个赞👍或者喜欢❤，让更多跟你一样好品味的人看到这些内容，感谢🙏