SemiAnalysis(@SemiAnalysis_):TOKENMAXXING: @vllm_project and @inferact achieve 1.3 BILLION tokens per $ of TCO (hyperscaler volume pricing) via disaggregated serving on AgentX. This result is 4x better than the B300 aggregated configuration.

2026.10.17 19:00

TOKENMAXXING: @vllm_project and @inferact achieve 1.3 BILLION tokens per $ of TCO (hyperscaler volume pricing) via disaggregated serving on AgentX. This result is 4x better than the B300 aggregated configuration.

コミュニティへ転送

人気のあるユーザー

1.9M ファン

101.3K ファン

257.6K ファン

4.2M ファン

28.3K ファン

178.2K ファン

2M ファン

1.4M ファン

182.1K ファン

68.8K ファン

232.6K ファン

430 ファン

37.3K ファン

26.4M ファン

547.1K ファン