HackerTrans
トップ新着トレンドコメント過去質問紹介求人

weirdcat

no profile record

投稿

[Nvidia] NemoClaw – Enterprise AI Agents, Redefined

nemoclaw.bot
4 ポイント·投稿者 weirdcat·4 か月前·0 コメント

AI of the Storm

medium.com
1 ポイント·投稿者 weirdcat·昨年·0 コメント

Computer use, a new Claude 3.5 Sonnet, and Claude 3.5 Haiku

anthropic.com
1,454 ポイント·投稿者 weirdcat·2 年前·735 コメント

Differential Transformer

arxiv.org
562 ポイント·投稿者 weirdcat·2 年前·177 コメント

Training Language Models to Self-Correct via Reinforcement Learning

arxiv.org
230 ポイント·投稿者 weirdcat·2 年前·92 コメント

Linear, symmetric, self-selecting 14-bit molecular memristors (2023)

researchgate.net
109 ポイント·投稿者 weirdcat·2 年前·55 コメント

コメント

weirdcat
·先月·議論
How are you running that GGUF, and how many tokens/sec are you getting without MTP? My M1 Max gives me 65 t/s for non-MTP unsloth/gemma-4-26B-A4B-it-qat-GGUF (UD-Q4_K_XL), but with MTP that actually goes down to 56 t/s (at 63% accepted drafts).