Why Gemma-4 26B MoE works in HuggingFace but breaks in prod inference enginesgithub.com1 ポイント·投稿者 maeddesg·2 か月前·0 コメント
VulkanForge – 14 MB Vulkan LLM engine that runs native FP8 models on AMD (Rust)github.com3 ポイント·投稿者 maeddesg·2 か月前·0 コメント