🤔本地部署运行 Kimi K3 到底需要多少钱？——成本远比你想象的高！ Kimi K3模型本身压缩后约594GB，但真正要跑起来，光缓存这部分内容就要再占约256GB，一台顶配8卡服务器（总显存640GB）跑起来几乎不剩余量 1⃣如果是自己买硬件（一次性投入） Moonshot官方建议的生产级配置是64块加速卡（相当于8台8卡服务器组成的集群）。按H100单卡目前2-3万美元的市场价估算： 仅GPU采购：64块 × 约2.5万美元 ≈ 160万美元（约1150万人民币） 加上服务器机箱、高速网络互联（NVLink/InfiniBand）等配套设施，一般会再增加50%-100%的成本 合计一次性硬件投入大致在250万-350万美元之间 2⃣如果只求"能跑起来、不追求生产级速度" 用单台8卡H200服务器+量化压缩勉强跑，成本会低很多：8块H200 × 约3-3.5万美元 ≈ 24万-28万美元 加上配套设施，整机大致40万-50万美元，但代价是响应变慢、上下文窗口要缩短 3⃣如果是租云服务器（按小时算） 64块H100按云厂商价格（约2-3美元/卡/小时）计算：一小时约130-190美元，一个月（按720小时算）大概是9万-14万美元 单台8卡H200的最低配置，一个月大概是2万-3万美元 😐简单说：想在自己家里或公司买硬件长期自建，起步就要大几千万人民币；哪怕退而求其次租云服务器跑最简配置，一个月也要小几十万人民币。 这也是为什么大多数团队现在都直接用官方API，按token付费反而是最划算的选择。 即便如此，还是有人选择硬扛下载完整权重。 开发者Thomas Unise今天在推特发布下载过程截图——权重总量1454GB，他感慨"一个中国实验室，让一个美国人把价值数千万美元训练成本的前沿智能，直接下载到自己的本地硬盘里"；开发者Jeffrey Emanuel则调侃，这个模型（1.56TB）几乎能装进一块90美元的硬盘。 截至目前，Hugging Face显示该模型页面已有2850次下载。 注：以上为按当前硬件市场价的粗略测算，仅供参考