资讯

在使用标准 GRPO 裁剪的情况下,随机奖励为 Qwen2.5-Math-7B 带来了约 21% 的性能提升,并增加了代码推理模式。但是,当我们通过上述三种方法中的任何一种消除裁剪效应时,随机奖励并未带来任何改善。