DeepSeek 把训练栈里的一批底层组件,按昇腾的平台重做了一遍,六个仓库在同一批放出来。
算子、矩阵计算、跨设备通信、向量访存、稀疏注意力、数据筛选,各自对应一个仓库,分别是 tile-ai/tilelang、deepseek-ai/DeepGEMM-Ascend、deepseek-ai/DeepEP-Ascend、deepseek-ai/TileKernels、deepseek-ai/FlashMLA、deepseek-ai/DeepSelect。按原帖的说法,TileLang 此前已经承载了 DeepSeek V4 训练里大部分算子的实现。
公开的数字里,TileLang 是 8.2k star,TileKernels 1,896 star,DeepGEMM-Ascend 456 star,DeepSelect 450 star,DeepEP-Ascend 202 star。仓库描述比标题具体。TileKernels 自称一套用 TileLang 写的 kernel 库,DeepGEMM-Ascend 是给昇腾 NPU 的矩阵乘 kernel 库,DeepEP-Ascend 管训练和推理的跨设备通信。
提交节奏比 star 数更值得看。TileLang 新加的 Ascend 950 后端,已经落在主干分支上,紧接着又有一次提交,是 Ascend 950 的 PTO 后端。昇腾在这条链路上是被长期维护的对象,不是一次性的移植。
我留一个保留意见。这批仓库里没有公开对标 NVIDIA 的 benchmark,超节点规模也只有原帖一句话,实际跑分还得等第三方复测。评估迁移成本的人,先做一件事,把你现在依赖的算子列出来,逐个去这些仓库里找实现,找到多少就是多少。
🔗链接:
顯示更多