Michael Goin(@mgoin_):@MainzOnX paged attention the idea is alive and well :) it's in literally every attention backend now! paged attention the circa 2023 .cu file has been unused for a while so we should stop building it

Michael Goin

@mgoin_

maintainer @vllm_project, inference perf @RedHat_AI (acq @neuralmagic), friends call me misha

参加 April 2022

469 フォロー中 2.5K ファン

Michael Goin@mgoin_

2026.07.02 02:09

@MainzOnX paged attention the idea is alive and well :) it's in literally every attention backend now! paged attention the circa 2023 .cu file has been unused for a while so we should stop building it

コミュニティへ転送

人気のあるユーザー

4.1M ファン

1.9M ファン

16.5M ファン

230.6K ファン

26.3M ファン

99.5K ファン

4.8M ファン

15.5K ファン

45.3M ファン

13.7M ファン

510.2K ファン

870.2K ファン

341.8K ファン

956K ファン

2.4M ファン