https://njx-njx.github.io/tags/moe/ Recent content in Moe on Njx'Log https://njx-njx.github.io/blog-cover.jpg https://njx-njx.github.io/blog-cover.jpg Hugo -- 0.161.1 zh Wed, 26 Aug 2026 17:40:00 +0800 https://njx-njx.github.io/posts/gspo-sequence-level-importance-sampling/ Wed, 26 Aug 2026 17:40:00 +0800 https://njx-njx.github.io/posts/gspo-sequence-level-importance-sampling/ GRPO 沿用 PPO 的 token 级重要性比率，Qwen 团队认定这是对重要性采样的根本误用，会在 MoE 长回答训练中导致不可逆崩溃。GSPO 把比率、裁剪、优化全部提到序列级，被裁掉的 token 多两个数量级，训练反而更高效。本文拆解这条论证链，以及论文没点破的前提与代价。