TwiScan
人気
コミュニティ
アカウントコレクション
ログイン
登録
English
日本語
한국의
简体中文
繁体中文
登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。
今すぐ登録
vLLM
@vllm_project
A high-throughput and memory-efficient inference and serving engine for LLMs. Join to discuss together with the community!
参加 March 2024
36
フォロー中
45.4K
ファン
vLLM
@vllm_project
2026.05.08 14:00
🚀 vLLM-Omni v0.20.0 is out — aligned with upstream vLLM v0.20.0 (CUDA 13.0 · PyTorch 2.11 · Transformers 5.x). ⚡ Qwen3-Omni throughput +72% on H20, 32 conc (0.241 → 0.414 req/s) via talker / code2wav multi-replica scaling 🎙️ TTS faster & leaner: VoxCPM2 RTF 0.946 → 0.106 · Fish Speech Fast AR latency -53% · Qwen3-TTS / Voxtral-TTS Code2Wav saves ~3.2 GiB 🎨 Diffusion dynamic step-level batching: +7.8% throughput / -5.8% latency 🆕 New / improved: HunyuanImage-3.0, ERNIE T2I, AudioX, Wan2.2-S2V, LTX-2.3, FastGen Wan 2.1 📱 Wan2.2 on NPU production-ready: MindIE-SD, fused ops, VAE BF16, HSDP/USP — +50–60% perf 🧮 Quant expanded: Qwen Omni W4A16, OmniGen2 FP8, Z-Image FP8, HunyuanImage3 NPU, GLM-Image 🧩 Multi-backend updates across CUDA / ROCm / MUSA / NPU / XPU Check it out →
もっと見る
0
0
15
235
27
コミュニティへ転送
人気のあるユーザー
New York Post
@nypost
4.1M ファン
オリコンニュース
@oricon
1.9M ファン
Reuters
@Reuters
26.3M ファン
一劍浣春秋
@chee828
230.5K ファン
billboard
@billboard
16.5M ファン
Hello! Project Link
@UpFrontLink
15.5K ファン
ATEEZ(에이티즈)
@ATEEZofficial
4.8M ファン
BTS JAPAN OFFICIAL
@BTS_jp_official
13.7M ファン
BOYNEXTDOOR
@BOYNEXTDOOR_KOZ
870.1K ファン
Forbes
@Forbes
20.3M ファン
MLB
@MLB
13.6M ファン
Pop Base
@PopBase
6.4M ファン
Binance
@binance
16.1M ファン
First Squawk
@FirstSquawk
556.2K ファン
BTS_official
@bts_bighit
45.3M ファン