HackerTrans
トップ新着トレンドコメント過去質問紹介求人

jonathanehrlich

no profile record

投稿

A Crisis Merely Postponed

nytimes.com
3 ポイント·投稿者 jonathanehrlich·4 か月前·0 コメント

Reduce cache memory on avg 39x

twitter.com
2 ポイント·投稿者 jonathanehrlich·昨年·1 コメント

The Last Decision by the Leading Thinker on Decisions

wsj.com
4 ポイント·投稿者 jonathanehrlich·昨年·2 コメント

All-In Summit: Bill Gurley presents 2,851 Miles

youtube.com
7 ポイント·投稿者 jonathanehrlich·3 年前·0 コメント

Analysis: Part of China's economic miracle was a mirage. Reality check is next

reuters.com
7 ポイント·投稿者 jonathanehrlich·3 年前·0 コメント

Gump’s Store Owner Slams SF in Open Letter Complaining About Street Conditions

sfist.com
3 ポイント·投稿者 jonathanehrlich·3 年前·2 コメント

Flexport Founder Ryan Petersen Is VC Firm Founders Fund’s Newest Partner

forbes.com
2 ポイント·投稿者 jonathanehrlich·3 年前·0 コメント

Cuba to Host Secret Chinese Spy Base Focusing on U.S.

wsj.com
8 ポイント·投稿者 jonathanehrlich·3 年前·1 コメント

[untitled]

1 ポイント·投稿者 jonathanehrlich·3 年前·0 コメント

Stanford Hates Fun’: Students Revolt After Tree Mascot Suspension

wsj.com
9 ポイント·投稿者 jonathanehrlich·4 年前·2 コメント

Big Tech Is the West’s Surprise Weapon in Competition with Russia, China

wsj.com
6 ポイント·投稿者 jonathanehrlich·4 年前·0 コメント

Startup Markets, Summer 2022 Edition

blog.eladgil.com
1 ポイント·投稿者 jonathanehrlich·4 年前·1 コメント

[untitled]

1 ポイント·投稿者 jonathanehrlich·4 年前·0 コメント

America Is in Denial

theatlantic.com
43 ポイント·投稿者 jonathanehrlich·4 年前·75 コメント

Iran soared up to a scorching 52.2°C (126°F) today

twitter.com
56 ポイント·投稿者 jonathanehrlich·4 年前·20 コメント

Big water cutbacks ordered amid Colorado River shortage

latimes.com
131 ポイント·投稿者 jonathanehrlich·4 年前·199 コメント

[untitled]

1 ポイント·投稿者 jonathanehrlich·4 年前·0 コメント

FCBuild2021 Talks

foundationcapital.com
2 ポイント·投稿者 jonathanehrlich·5 年前·0 コメント

Viagra may be useful against Alzheimer's dementia

bbc.com
5 ポイント·投稿者 jonathanehrlich·5 年前·1 コメント

SF. Where crime is a transportation issue

sanfrancisco.cbslocal.com
2 ポイント·投稿者 jonathanehrlich·5 年前·0 コメント

コメント

jonathanehrlich
·昨年·議論
What if we trained a smaller KV cache for our documents offline? Using a test-time training recipe we call self-study, we find that this can reduce cache memory on avg 39x (enabling 26x higher tok/s and lower TTFT) while maintaining quality. These smaller KV caches, which we call cartridges, can be trained once and reused for different user requests!
jonathanehrlich
·4 年前·議論
Thanks. Please write more frequently.
jonathanehrlich
·4 年前·議論
Congrats Ryan!!! Huge hire!!
jonathanehrlich
·5 年前·議論
Excited for you guys. You've worked so hard.