TwiScan
Hot
Communities
Account collections
Login
Register
English
日本語
한국의
简体中文
繁体中文
Register and share your invite link to earn from video plays and referrals.
Register now
雪瑜
@xueyu1125
🤖 AI Builder | 程序员 | AI 工具实践 🎮 游戏服务器开发 | Steam游戏收集控 🚀 专注美股 | 纳斯达克信仰者 🥳 热爱生活 | 偶尔写段子
Joined September 2014
3.5K
Following
6K
Followers
雪瑜
@xueyu1125
2026.09.12 03:50
DeepSeek-V4.1-Flash 八卡H20 实测来了,一起看下552B 参数加 196B Engram 参数的模型在SGLang运行结果 启动参数: sglang serve --model-path /model --served-model-name deepseek-v41-flash --tp 8 --ep-size 8 --context-length 32768 --max-running-requests 32 --mem-fraction-static 0.85 --attention-backend dsv4 --moe-runner-backend flashinfer_mxfp4 --reasoning-parser auto --tool-call-parser auto --enable-metrics --disable-radix-cache --host 0.0.0.0 --port 30000 测试方法: 核心矩阵为 1,024/128、8,192/128、1,024/512、24,576/128 Token,各测 C1、C8、C32,每组单独预热后正式重复三轮。各轮请求数分别为 8、16、64。C 是客户端并发上限,服务端最大运行序列也是 32 和历史V4测试对比结果: DeepSeek-V4.1-Flash 结果稍快一点,但开始回答之后,输出速度比 DeepSeek-V4-Flash 慢,整体吞吐也更低,实际token/s 速度达不到DeepSeek API 中V4.1三倍提升的效果🤣
Show more
0
0
2
1
0
Forward to community
Most Popular Users
Tibo
@thsottiaux
772.5K Followers
Donald J. Trump
@realDonaldTrump
111.9M Followers
Serenity
@aleabitoreddit
1M Followers
Elon Musk
@elonmusk
241.7M Followers
Sam Altman
@sama
6.3M Followers
zerohedge
@zerohedge
3.4M Followers
Wall St Engine
@wallstengine
197.7K Followers
OpenAI
@OpenAI
5.4M Followers
New York Post
@nypost
4.2M Followers
Polymarket
@Polymarket
2M Followers
Kalshi
@Kalshi
472.2K Followers
Bitcoin Archive
@BitcoinArchive
1.8M Followers
SpaceXAI
@SpaceXAI
2.1M Followers
Anthropic
@AnthropicAI
1.8M Followers
First Squawk
@FirstSquawk
569.2K Followers