TwiScan
Hot
Communities
Account collections
Login
Register
English
日本語
한국의
简体中文
繁体中文
Register and share your invite link to earn from video plays and referrals.
Register now
0xTodd (已深度思考0秒)
@0xTodd
热衷研究 | 在
@researchnothing
琢磨 AI | 在
@ebunker_eth
打包区块 | Long BTC, Love the World | NFA
Joined September 2016
3.1K
Following
72.1K
Followers
0xTodd (已深度思考0秒)
@0xTodd
2026.05.04 03:22
科普一下什么是缓存命中 / 读缓存? 考虑到 AI 按照 Token 数计费,如果你要和 AI 多轮对话,倘若每次都重复输入重复内容(例如一个长文档或者一个角色设定),这在账单上很浪费。 因此 AI 开发者设计了类似于电脑缓存一类的东西,持续一段时间(例如 5 分钟、10 分钟)。 例如你 5 分钟内追问,系统判断这就是缓存里的已存内容,那么 AI 就不需要再动用额外算力,这就是所谓的“缓存命中”。 一般大模型(or 中转站),如果命中了缓存,就会非常便宜,例如 D 指导,命中后只输入需要 1/10 的价格。 有点像你考语文,阅读理解题,你只精读一次,不需要每道题都再全读一次,最后考完试你光速就忘了🤣
Show more
0
0
11
74
3
Forward to community
Most Popular Users
Tibo
@thsottiaux
1M Followers
FinancialJuice
@financialjuice
959.3K Followers
Binance Wallet
@BinanceWallet
2.8M Followers
First Squawk
@FirstSquawk
579.9K Followers
LiveSquawk
@LiveSquawk
504.3K Followers
Binance
@binance
16.1M Followers
Serenity
@aleabitoreddit
1.1M Followers
ClaudeDevs
@ClaudeDevs
834.7K Followers
CNBC
@CNBC
6.3M Followers
Seeking Alpha
@SeekingAlpha
348.2K Followers
Boris Cherny
@bcherny
641.8K Followers
Thariq
@trq212
405.3K Followers
TheStreet
@TheStreet
1.2M Followers
The Wall Street Journal
@WSJ
22.3M Followers
New York Post
@nypost
4.3M Followers