aix阿乐
@Leepriest1990
⚡ 02年连续创业者 | FDE前线部署工程师🧠 差九年AI进化俱乐部主理人 教你企业AI怎么落地：获客→开发→交付💰 AI变现搞钱 | 流量方法论 | 实战干货俱乐部：分享FDE + 企业落地全流程📩 合作私信
加入 February 2011
262 正在关注 2.1K 粉丝
一个技术突破：2840亿参数的DeepSeek-V4，现在只需要5.3GB内存就能跑。
原理是Weight Streaming加MoE加2bit量化——模型权重不用全放内存，用到哪块加载哪块。以前这种规模要几百GB显存，现在8GB内存的MacBook都能跑。
这意味着什么？顶级开源模型不再是云端大厂的专利，本地设备就能跑。做AI应用的人，成本结构要重新算了——模型调用费可能变成你最小的开销。
技术演进的速度，永远比你计划的快。
显示更多
