TwiScan
Hot
Communities
Account collections
Login
Register
English
日本語
한국의
简体中文
繁体中文
Register and share your invite link to earn from video plays and referrals.
Register now
铁柱
@TiezhuCrypto
研究员,Crypto/美股/A股,长期跟踪美联储,宏观研究者。
Joined May 2022
2K
Following
36.7K
Followers
铁柱
@TiezhuCrypto
2026.09.10 02:24
完全赞同。 所有我将继续持有intc以及美光。chatbot吃的是HBM,但是agent的问题在于,你问一个问题,可能要调用几十次模型。 这带来的问题就是数据的中间态明显变多,比如说搜索结果、缓存、图片、历史对话、邮件之类的东西。根本没必要放在hbm或者dram里面。 这些数据属于中间态,或者叫温数据都会下沉到SSD,包括数据中心里面,由于其他的瓶颈太多,比如电力、空间,那么就会变成单位机架能容纳多少TB、每瓦能带来多少的带宽。 另外有一个反直觉的事实,就是即便agent便宜,效率高了,反而Nand的需求会更大,因为调用更多,带来的就是中间态的数据量更为爆炸。
Show more
0
0
47
117
14
Forward to community
Most Popular Users
Tibo
@thsottiaux
1M Followers
FinancialJuice
@financialjuice
958.9K Followers
First Squawk
@FirstSquawk
579.7K Followers
Serenity
@aleabitoreddit
1.1M Followers
Binance Wallet
@BinanceWallet
2.8M Followers
LiveSquawk
@LiveSquawk
504.1K Followers
New York Post
@nypost
4.3M Followers
Binance
@binance
16.1M Followers
CNBC
@CNBC
6.3M Followers
Seeking Alpha
@SeekingAlpha
347.9K Followers
ClaudeDevs
@ClaudeDevs
828.5K Followers
The Wall Street Journal
@WSJ
22.3M Followers
TheStreet
@TheStreet
1.2M Followers
Boris Cherny
@bcherny
640.9K Followers
Thariq
@trq212
403.9K Followers