Show HN: Optimized vLLM for Blackwell (SM_120) – 59T/S on DeepSeek-R1(github.com)

2 ポイント投稿者 malka6666 か月前0 コメント

https://github.com/informatico-madrid/blackwell-linux-infra-optimizer

vLLM for Blackwell (SM_120) & Kernel 6.14. Optimized for RTX 5090. 59 t/s on DeepSeek-R1 via FlashInfer

0 コメント

—