TwiScan
熱門
社區
帳號集合
登入
註冊
English
日本語
한국의
简体中文
繁体中文
註冊並分享邀請連結,可獲得影片播放與邀請獎勵。
立即註冊
0xTodd (已深度思考0秒)
@0xTodd
热衷研究 | 在
@researchnothing
琢磨 AI | 在
@ebunker_eth
打包区块 | Long BTC, Love the World | NFA
加入 September 2016
3.1K
正在關注
72.1K
粉絲
0xTodd (已深度思考0秒)
@0xTodd
2026.05.04 03:22
科普一下什么是缓存命中 / 读缓存? 考虑到 AI 按照 Token 数计费,如果你要和 AI 多轮对话,倘若每次都重复输入重复内容(例如一个长文档或者一个角色设定),这在账单上很浪费。 因此 AI 开发者设计了类似于电脑缓存一类的东西,持续一段时间(例如 5 分钟、10 分钟)。 例如你 5 分钟内追问,系统判断这就是缓存里的已存内容,那么 AI 就不需要再动用额外算力,这就是所谓的“缓存命中”。 一般大模型(or 中转站),如果命中了缓存,就会非常便宜,例如 D 指导,命中后只输入需要 1/10 的价格。 有点像你考语文,阅读理解题,你只精读一次,不需要每道题都再全读一次,最后考完试你光速就忘了🤣
顯示更多
0
0
11
74
3
轉發到社區
熱門用戶
New York Post
@nypost
4.3M 粉絲
オリコンニュース
@oricon
2M 粉絲
TVer新着
@TVer_info
101.9K 粉絲
ツイッター速報〜BreakingNews
@tweetsoku1
259.6K 粉絲
空空道人
@Kongkongda5882
41.1K 粉絲
吴说区块链
@wublockchain12
182.3K 粉絲
PR TIMESテクノロジー
@PRTIMES_TECH
28.3K 粉絲
Bloomberg
@business
10.5M 粉絲
中國新聞社
@CNS1952
550.2K 粉絲
billboard
@billboard
16.8M 粉絲
Reuters
@Reuters
26.5M 粉絲
华尔街观察 Xtrader
@cnfinancewatch
140.7K 粉絲
WangNextDoor
@WangNextDoor2
111K 粉絲
First Squawk
@FirstSquawk
579.9K 粉絲
モデルプレス
@modelpress
2.1M 粉絲