https://njx-njx.github.io/tags/normalization/ Recent content in Normalization on Njx'Log https://njx-njx.github.io/blog-cover.jpg https://njx-njx.github.io/blog-cover.jpg Hugo -- 0.161.1 zh Sat, 29 Aug 2026 12:05:00 +0800 https://njx-njx.github.io/posts/dr-grpo-length-and-difficulty-bias/ Sat, 29 Aug 2026 12:05:00 +0800 https://njx-njx.github.io/posts/dr-grpo-length-and-difficulty-bias/ R1-Zero 的‘长度与奖励齐涨’被当成了推理涌现的标志性曲线，Sea AI Lab 的 Dr.GRPO 论文指出其中一半涨幅可能是优化器自己的偏好：1/|y| 让模型在答错时倾向于写长，除以 std 让极端难度的题拿走更多权重。两个归一化项、两种偏差的机制拆解，外加一个藏在 masked_mean 里的实现层偏差。