论文

综合 后训练 数据管理中的基于来源的门控和自适应恢复

Provenance-Grounded Gating and Adaptive Recovery in Synthetic Post-Training Data Curation

模型训练合成数据

摘要

综合 后训练 管道通常使用奖励模型或整体 LLM 判断来过滤生成的样本,但很少将两种做法放在一起进行检查:过滤信号是否基于诱导每一代的源证据,以及是否可以系统地恢复被拒绝的样本而不是永久丢弃。我们对门配置、恢复策略和生成器规模这两个问题进行了对照研究,使用对抗性注入的语料库来提供 真值 故障标签。我们发现,精确的源出处改善了 忠实性 门控,以实现更强大的判断,幻觉门和奖励门拒绝很大程度上不相交的样本群体,这使得两者都是必要的,并且将故障诊断与目标再生相结合的自适应恢复管道比原始重采样实现了更高的产量、恢复率和注射召回率。下游 微调 质量主要由生成模型规模驱动,过滤和回收条件发挥着重要作用,但也是次要的。