Flash-MSA: Accelerating Million-Token Training with Sparse Attention Kernelsnanduruganesh.github.io11 points·by rawsh·3 ชั่วโมงที่ผ่านมา·0 comments
Zyphra ZAYA1-base: First large-scale model trained on AMDzyphra.com6 points·by rawsh·8 เดือนที่ผ่านมา·1 comments
Debugging divergence between engine and transformers logprobs for RLgist.github.com2 points·by rawsh·10 เดือนที่ผ่านมา·0 comments