TwiScan
人気
コミュニティ
アカウントコレクション
ログイン
登録
English
日本語
한국의
简体中文
繁体中文
登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。
今すぐ登録
lifcc
@mylifcc
每天用 AI 写代码的工程师 Claude Code | Codex深度用户 |Agentic engineering 在这里分享 AI 工具实测和开发者工作流,持续构建中 AI会员代充值:
参加 January 2022
340
フォロー中
17.6K
ファン
lifcc
@mylifcc
2026.10.29 12:40
“只需要 1.5 台 NVIDIA GB300 机架,就能扛住全球最大模型路由平台 OpenRouter 上所有的 DeepSeek 流量。” 一边是老黄明年准备出货 9 万台 NVL72 机架,一边是最火的开源模型全球路由流量只需要不到 2 台? 扒完底层数据后我发现:AI 算力市场最大的泡沫,不是显卡过剩,而是我们对 Token 的理解全错了。 1️⃣ 算笔硬核账:Token 消耗量正在和计算量脱钩OpenRouter 上 DeepSeek 两大主力模型日吞吐约 9.74 万亿 Token/天,而单台 GB300 NVL72(72张卡+20TB显存)声称日吞吐高达 6.82 万亿 Token/天。哪怕算上波峰和冗余,撑死也就几台机架。 为什么这么省卡?秘密藏在 OpenRouter 刚披露的机密数据里:在 Coding Agent 流量中,高达 90% 甚至 96%(DeepSeek)的输入都是“缓存命中(Cache Hit)”! 当你在用代码 Agent 时,它每一步都在重复发送几万字的旧代码和工具定义: • 96% 是从显存直接读取的历史缓存(极便宜) • 3% 是新增输入 • 只有 1% 是真正昂贵的、需要 GPU 玩命算的新输出(Decode)! 拿“总 Token 数”去推算显卡需求,就像拿“网页刷新次数”去推算要建多少座发电厂一样荒谬。 2️⃣ 谁会第一个死?纯堆卡的 API 二道贩子 这件事最先锤爆的不是英伟达,而是只会买卡出租的推理服务商。 同样卖开源模型 API,做好 KV Cache 管理、Prefill/Decode 分离的厂商,能用 1/5 的卡跑出同样的吞吐。加上现在路由平台开始按“缓存后真实成本+延迟”自动分发流量,没有软件优化能力的算力二道贩子,毛利会被直接打穿。 3️⃣ 那老黄明年的 9 万台机架卖给谁? 别急着做空。OpenRouter 只是水面上的冰山一角,真正吞噬算力的是水下巨兽:前沿模型集中训练、ChatGPT/Claude 级别的全球闭源推理、金融政企“哪怕利用率 10% 也要独占”的私有化部署,以及视频生成与物理 AI。 4️⃣ 2027 终极赌局:杰文斯悖论(Jevons Paradox) 当推理成本暴跌 90%,人类不会省钱,而是会挥霍。 以前你心疼钱,每天只让 Agent 跑 20 次任务;如果明天价格跌到十分之一,你会不会在后台同时挂 50 个 Agent,24 小时不间断帮你重构代码、跑测试、找 Bug? 硬件效率翻 10 倍,但如果全天候 Agent 让任务量暴涨 100 倍,算力依然不够用。 过去两年,AI 圈的信仰是“屯最多的卡,收最贵的过路费”;从今天起,新规则变成了“谁能把 KV Cache 榨干到极致,谁能创造出真正消耗新 Token 的复杂场景,谁才能活到最后”。 你觉得 2027 年我们会迎来 “算力大过剩”,还是 “人均后台跑 100 个 Agent 的算力大饥荒”?👇
もっと見る
0
0
21
81
4
コミュニティへ転送
人気のあるユーザー
オリコンニュース
@oricon
2M ファン
ツイッター速報〜BreakingNews
@tweetsoku1
259K ファン
TVer新着
@TVer_info
101.5K ファン
PR TIMESテクノロジー
@PRTIMES_TECH
28.3K ファン
New York Post
@nypost
4.2M ファン
モデルプレス
@modelpress
2M ファン
ファミ通.com
@famitsu
1.4M ファン
MANTANWEB/毎日キレイ
@mantanweb
68.7K ファン
cv usk
@cv_usk
452 ファン
4Gamer
@4GamerNews
734.5K ファン
Reuters
@Reuters
26.4M ファン
Bloomberg
@business
10.5M ファン
Yahoo!ニュース
@YahooNewsTopics
2.1M ファン
First Squawk
@FirstSquawk
575.3K ファン
billboard
@billboard
16.8M ファン