TwiScan
人気
コミュニティ
アカウントコレクション
ログイン
登録
English
日本語
한국의
简体中文
繁体中文
登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。
今すぐ登録
铁柱
@TiezhuCrypto
研究员,Crypto/美股/A股,长期跟踪美联储,宏观研究者。
参加 May 2022
2K
フォロー中
36.8K
ファン
铁柱
@TiezhuCrypto
2026.09.10 02:24
完全赞同。 所有我将继续持有intc以及美光。chatbot吃的是HBM,但是agent的问题在于,你问一个问题,可能要调用几十次模型。 这带来的问题就是数据的中间态明显变多,比如说搜索结果、缓存、图片、历史对话、邮件之类的东西。根本没必要放在hbm或者dram里面。 这些数据属于中间态,或者叫温数据都会下沉到SSD,包括数据中心里面,由于其他的瓶颈太多,比如电力、空间,那么就会变成单位机架能容纳多少TB、每瓦能带来多少的带宽。 另外有一个反直觉的事实,就是即便agent便宜,效率高了,反而Nand的需求会更大,因为调用更多,带来的就是中间态的数据量更为爆炸。
もっと見る
Herman Jin
@ShanghaoJin
2026.09.09 14:57
CPU和NAND都会缺死的 本来每台device需要的资源,变成了agent需求。agent调用都要用CPU的
0
0
48
111
13
コミュニティへ転送
人気のあるユーザー
オリコンニュース
@oricon
1.9M ファン
New York Post
@nypost
4.2M ファン
TVer新着
@TVer_info
100.9K ファン
ツイッター速報〜BreakingNews
@tweetsoku1
256.8K ファン
Reuters
@Reuters
26.4M ファン
吴说区块链
@wublockchain12
181.5K ファン
First Squawk
@FirstSquawk
569.3K ファン
Bloomberg
@business
10.5M ファン
ファミ通.com
@famitsu
1.4M ファン
モデルプレス
@modelpress
2.1M ファン
billboard
@billboard
16.8M ファン
PR TIMESテクノロジー
@PRTIMES_TECH
28.2K ファン
一劍浣春秋
@chee828
0 ファン
MANTANWEB/毎日キレイ
@mantanweb
68.9K ファン
cv usk
@cv_usk
417 ファン