TwiScan
Hot
Communities
Account collections
Login
Register
English
日本語
한국의
简体中文
繁体中文
Register and share your invite link to earn from video plays and referrals.
Register now
耳朵
@RookieRicardoR
🤖 AI LLM / Agent / Skill / MCP 观察与深度应用 👨💻 高级软件工程师 / 签约作者 / 软件工程 AI 实践 📈 标普/ 纳斯达克交易员/回测网站: 💪 AI 领域付费咨询请私信
Joined February 2022
498
Following
11.3K
Followers
耳朵
@RookieRicardoR
2026.05.26 10:17
同样的 DeepSeek V4 Pro,不同平台成本相差太多了。 在 DeepSeek 官方平台,我用了 1500W Token 只花了 2.43 元,但是在阿里百炼等云平台,同样打了 2.5 折,同样的输入输出,账单大概在 25-35 元,十倍的价格。 这么大价差的原因就出在缓存上,DeepSeek 官方平台的缓存读取价格是 0.025/M,而阿里腾讯云平台,打完 2.5 折后,价格还在 0.25/M,这也是十倍的差价。 1️⃣ 为什么 DeepSeek 官方平台成本这么低? 根据 DeepSeek 的官方文档,它用硬盘实现了前缀缓存。 在一般的大模型推理中,KV Cache 几乎全部放在 HBM 中,而把缓存放在硬盘的做法,能大幅降低硬件成本。 由于用了硬盘,所以 DeepSeek 的缓存不光便宜,时间还长,它的缓存时间是几个小时到几天不等。 2️⃣ 为什么云厂商没做到硬盘缓存? 云厂商一般都是有多级缓存机制的,但是他们都是通用架构,目的是为了适配多种模型,再上下文缓存方面一定比不过 DeepSeek 官方平台的专属配套。 DeepSeek 系列模型在 V2 做了 MLA,V4 又做了 Token 维度压缩 + DSA 稀疏注意力,大幅降低长上下文计算和显存需求。 通过把 KV Cache 大幅压缩,使得传输带宽和存储容量下降,才能把缓存放到低成本硬盘上。 而且 DeepSeek 官方 API 的速度也普遍更快一点,用 DeepSeek 的话真没必要选第三方平台。 缓存文档:
Show more
0
0
29
334
25
Forward to community
Most Popular Users
Tibo
@thsottiaux
1M Followers
FinancialJuice
@financialjuice
959K Followers
First Squawk
@FirstSquawk
579.6K Followers
Binance Wallet
@BinanceWallet
2.8M Followers
Serenity
@aleabitoreddit
1.1M Followers
LiveSquawk
@LiveSquawk
504.1K Followers
Binance
@binance
16.1M Followers
CNBC
@CNBC
6.3M Followers
ClaudeDevs
@ClaudeDevs
830.4K Followers
Seeking Alpha
@SeekingAlpha
348.2K Followers
New York Post
@nypost
4.3M Followers
The Wall Street Journal
@WSJ
22.3M Followers
TheStreet
@TheStreet
1.2M Followers
Boris Cherny
@bcherny
640.9K Followers
Thariq
@trq212
404.2K Followers