老张1982
@cryptoresetlife
가입 August 2011
4.2K 팔로잉 중 14.1K 팬
大家的Mac Studio M3 Ultra 512GB内存都跑的什么本地大模型啊？
我现在本地跑两个
`Qwen3.5-397B-A17B-6bit MLX`，实测大约 **21 tokens/s**；
日常快模型 `Qwen3.6-35B-A3B-4bit` 大约 **52 tokens/s**。
内存占用350gb左右
给openclaw接本地api对话速度也满意。
请问老哥这个大模型是最优选择么？
有没有能榨干它的推荐，谢谢🙏
더 보기
