Hanya Hu
@RealHanyaHu
AI时代女性赋能先锋｜硅谷投资人＋作家｜帮你用AI赚第一桶金 🚀 🚀
加入 September 2021
4.8K 正在關注 24.9K 粉絲
不成立
试想需要有工程师懂AMD ROCm + vLLM/TGI的工程师、监控、故障恢复、模型更新，少说20万30万年薪，美金。外包？不可能！
一台服务器够吗？高峰时段根本不够。
谁会事先投一大笔钱在不确定的事情上？
顯示更多
卧槽！Kimi K3 可能要动 OpenAI 和 Anthropic 的企业蛋糕了🤔
看到一个很有代表性的案例：
一家美国律所，每月在 Claude API 上烧近 3 万美元。现在他们在用 K3 跑内部基准测试，只要性能达标，就砸 50 万美元买硬件，模型本地跑。
账大概是这样算的：
• 硬件：Gigabyte 8 卡 AMD MI355X 服务器，约 2.3TB 显存，已验证可跑 Kimi，约 40 万美元
• 不用全款，分 5 年融资，月供约 1 万
• 加上电费 + 托管，每月总成本约 1.8 万
对比原来每月 3 万的 API 账单：
→ 直接省 20-30%
→ 数据不出门（对律所来说是命根子）
→ 用量不设限，想怎么跑怎么跑
→ 最狠的是：美国新税法允许硬件购置当年 100% 税前抵扣，融资买也算
这里有个值得记住的临界点：
月 API 支出一旦超过 2 万美元，自建硬件就开始划算。
开源权重 + 可融资的硬件，正在一点点填平闭源模型的护城河。
OpenAI 和 Anthropic 的万亿估值，接下来靠什么撑？
顯示更多
