가입 후 초대 링크를 공유하면 동영상 재생 및 초대 보상을 받을 수 있습니다.

Leroy Li
@LeroyLi311063
Just my thoughts
가입 July 2025
33 팔로잉 중    888 팬
Deployment of DeepSeek-V4.1-Flash using FP8-FP4 mixed on 32 Ascend 950DT. For 128K sequence scenarios, single-card decoding throughput reaches 5,800 TPS at 13.79 ms. In low-latency inference scenarios, latency is kept under 5 ms while achieving a throughput of 2,727.
더 보기