如何理解deepseek 开源内部的推理引擎DeepInfer?
我给你们讲一个“一只平凡的小猪”故事。
2022 年,幻化量方宣布一共给慈善机构捐款 3.6 亿元,其中某员工自称“一只平凡的小猪”以个人名义捐赠 1.38 亿元。
这只猪就是我们后来熟知的梁圣:梁文峰,他如此谦逊,如此有大爱,做AI绝对不仅仅只是为了赚钱,虽然他的公司不招聘 35 岁工程师(黑点)。
🚀 Introducing DeepInfer, our in-house inference framework, now fully open source!
Powering DeepSeek-V4.1-Flash at scale with high throughput and low latency. We’re sharing our production stack to help the community lower compute costs, reduce energy use, and make AI more affordable.
🔗
1/4
顯示更多