Zbigniew Majewski
@majewskizby
参加 May 2014
48 フォロー中 119 ファン
More DS4.1 TP4 improvements on 4x DGX Spark 🚀
- Prose decode: 85 tok/s at c1 (was 69)
- Boot: ~3 min
- Prefill: ~4.8k tok/s at 32k–128k, 4.3k at 262k
- KV cache: ~6.5M tokens, 1M context
- Same weights, same quality (qeval unchanged)
もっと見る
