註冊並分享邀請連結,可獲得影片播放與邀請獎勵。

huangserva
@servasyy_ai
古早程序员 | AI出海 | 自由职业 机车游侠&机速购&骑享租创始人 15年前 freelance 起步 → 连续创业者 → 亏过1个亿,逆风翻盘中 分享创业,AI,读书,生活,健身 Official X channel of SERVASYY LLC
加入 December 2025
842 正在關注    42.9K 粉絲
39%提升!!prefill 1950 tok/s! 越来越夸张了!单卡5090这个成绩
DeepSeek-V4.1-Flash prefill on a single RTX 5090: 1,400 → 1,950 t/s (+39%) 🚀 One idea: stop re-decoding busy experts' weights 3–6× per chunk -decode once to FP16, let cuBLAS do the math. Shipped it upstream to the Strata repo → PR #4366#, keen to hear what you think @coldniko
顯示更多