雪踏乌云
@Pluvio9yte
💭 云安全→独立开发 | AI博主
📌 聚焦：AI & Vibe coding & Prompt & Agent
🌏 在做：创业 | Web出海 | Web3
🌊 持续分享AI编程、AI工具、出海干货和创业经验
✉️ 合作私信
加入 June 2023
1.2K 正在关注 48.8K 粉丝
草，有人把 80B 的 Qwen 塞进 4.3GB 内存在 Mac 上跑起来了
项目叫 Swiftlet：Swift + Metal，只把稠密小核常驻内存，路由专家权重按需从存储流式加载。
iPhone 上号称还能跑 35B。
如果是真的，端侧叙事又要重写一轮了。大 MoE 开始学会在消费级硬件上部分驻留。
我去 clone 看看……
显示更多
