In-browser LLM inference engine with WebGPU and OpenAI APIblog.mlc.ai16 points·by CharlieRuan·2 ปีที่แล้ว·4 comments
Gemma locally on iOS, Android, web browsers, and GPUs with a single frameworkold.reddit.com5 points·by CharlieRuan·2 ปีที่แล้ว·1 comments
Running LLM (phi-2) locally on latest Google Chrome Androidtwitter.com6 points·by CharlieRuan·2 ปีที่แล้ว·1 comments
CharlieRuan·ปีที่แล้ว·discussCurious what are some examples of "per-player-action API costs" for games?
CharlieRuan·2 ปีที่แล้ว·discussFrom first-hand experience, the all-in-one framework really helps reduce engineering effort!