註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

实践哥 Li
@MinLiBuilds
AI Builder 超级个体。实践哥Li不做概念党,只聊 AI 实战。分享Claude,Codex,Grok,Gemini, 开源大模型各种一手折腾心得。
加入 July 2023
2.1K 正在關注    18.5K 粉絲
单卡 DGX Spark 跑 Qwen3.8-27B FP8 + DSpark k=14 投机解码:改代码该文章 30~45+ tok/s,但闲聊只有 ~8 tok/s 投机解码只对照抄型输出有效。 不适合多人并发。 我觉得DGX Spark 不适合部署 Qwen ,273 GB/s带宽下 27B dense 现编就是 ~10 tok/s 顶天。 可以再观望一下社区的优化。
顯示更多
0
29
34
2
轉發到社區