开源项目

TRL将GRPO重算概率对齐到vLLM的截断采样候选集

GRPO: renormalize log-probs over the top-k/top-p candidate set (#7866)

模型训练强化学习

概述

GRPOTrainer此前用全词表重算概率,而vLLM在top-k、top-p或min-p筛选后的候选集上归一化,造成每个token的概率比率带入保留概率质量的偏差,长序列会放大训练信号衰减。本次在vLLM>=0.28、colocate模式、启用重要性采样校正及非零温度等条件下请求return_sampling_mask,并把候选集用于当前、旧策略和参考概率的归一化。 工具返回的非采样token保留自身候选项,候选集随多轮工具调用传递。top-p/min-p开启却没有top-k上界时会拒绝不兼容配置。server模式或旧vLLM仍按全词表处理并告警,不把本次修正外推到那些路径。