SSD高景气才刚启动,消费端与AI端需求将同步爆发。消费电子前期普遍砍存储、变相涨价,后续用户空间不足,置换加装SSD需求持续释放。AI企业级SSD承接大模型海量数据存储、冷数据压缩归档需求。未来Agent全面普及后,持续海量生成数据,将带动HBM、SSD需求指数级暴涨,弹性远超GPU、CPU。
显示更多
ssd的需求强度才刚刚开始,消费端和AI端需求会同时暴增。
消费端去年到今年上半年很多消费电子把存储空间都阉割后提价了,消费者用段时间肯定会面临存储空间不够的问题,就需要额外配置ssd。
AI端的企业级ssd也一样,去年到今年各家大模型累计了海量的用户,长期数据积累肯定再推生出需求海量ssd压缩过去不常调用的老数据。
Agent还没彻底普及,因为现在普通人能接触到的agent还是比较傻瓜。一旦普及hbm和ssd的需求还要指数级爆炸,远超gpu和cpu需求,他们是无眠无休制造数据的机器。
显示更多
HBF不是更便宜的HBM
HBF,是在hbm和ssd之间插入一个新的层。
解决的是hbm不够,和ssd太“慢”的问题
但 HBF 仍然是 NAND Flash,这一点决定了其适合存模型权重存储。
Weights 基本属于 Write Once, Read Many,很少修改。这几乎是 NAND 最理想的 workload。未来数 TB 甚至十几 TB 的模型,可以大量驻留 HBF,HBM 只保存真正需要高速访问的 hot working set。
但KV Cache 会随着 token 生成不断写入,Session 结束后又被释放。NAND 不像 DRAM 可以任意覆盖,它存在 page/block、erase-before-write 和有限 P/E cycle。如果简单把 HBF 当成 DRAM 使用,很容易经常移动、擦除并重写大量数据,最终浪费带宽、增加功耗并缩短寿命。
这也是 HBF 规范开始强调 Weights 与 KV Cache 分 Channel 的原因。两者读写模式和生命周期完全不同,不能再粗暴地混在一个资源池里。
但 KV Cache 未必因此不适合 HBF。它有一个重要特点:很多情况下并不是反复覆盖,而是 Append → Read Many → Bulk Release。如果 Runtime 能进行连续写入、批量回收,再结合 wear leveling、over-provisioning 和 hot/cold KV 分层,耐久性就可能从物理死穴变成工程优化问题。
这也揭示了 HBF 以及各种存储优化的一个新趋势:AI 内存正在从硬件问题变成软硬件协同问题。
未来 GPU 的内存体系可能变成:
SRAM → HBM → HBF → SSD
HBM 保存最热的数据;HBF 保存大量权重和较冷 KV;SSD 保存更冷的数据。Compiler 和 Runtime 自动决定数据放在哪里、何时 Prefetch、何时迁移、何时释放。
因此接下来存储架构设计的核心是,谁能最高效地管理数 TB 甚至数十 TB 的异构 AI 内存。
和历史上所有计算机架构优化的底层原因一样,这是资源不足逼出来的“创新”
当然,这并不能解决存储瓶颈,只能一定程度的缓解,或者说,用相对便宜量大的存储顶一部分昂贵且量小的存储的需求
显示更多
Synology DSM 7.4 正式发布,最亮眼的是 HDD/SSD 数据缩减,能自动去重和压缩,帮你省出更多存储空间。还加了 AI 助手、私有 AI 知识库、Drive AI Search 和 GPU 状态显示。老机型这版基本就是最后一次大版本更新了。
显示更多
22年11 月买的铠侠 TC10 SATA SSD
当时存储价格在历史低位,450 /1t,顺手买了一块,给旧电脑扩容
结果那台主机没多久就退役了,硬盘也一直闲置
最近开始学 ComfyUI,电脑空间不够用了,把这块 SSD 装到新电脑上用
能识别到,但死活无法初始化,一开始还以为是连接线的问题
最后用 CrystalDiskInfo测试才确定是磁盘的问题
不死心,继续买了个硬盘盒,终于宣判死刑
家里七八块硬盘,这是第一个坏的
问了售后,说质保三年,25 年 11 月过保
但我实际使用时间可能都不到一年,好在里面没什么重要数据
硬盘这东西真别乱买,坏一次就老实了
显示更多