가입 후 초대 링크를 공유하면 동영상 재생 및 초대 보상을 받을 수 있습니다.

实践哥 Li
@MinLiBuilds
AI Builder 超级个体。实践哥Li不做概念党,只聊 AI 实战。分享Claude,Codex,Grok,Gemini, 开源大模型各种一手折腾心得。
가입 July 2023
2.1K 팔로잉 중    18.5K 팬
单卡 DGX Spark 跑 Qwen3.8-27B FP8 + DSpark k=14 投机解码:改代码该文章 30~45+ tok/s,但闲聊只有 ~8 tok/s 投机解码只对照抄型输出有效。 不适合多人并发。 我觉得DGX Spark 不适合部署 Qwen ,273 GB/s带宽下 27B dense 现编就是 ~10 tok/s 顶天。 可以再观望一下社区的优化。
더 보기