论文
DAIS:复杂推理的依赖感知中间 QA 监督
DAIS: Dependency-Aware Intermediate QA Supervision for Complex Reasoning
摘要
思想链(CoT)监督暴露了中间的基本原理,但扁平的基本原理目标通常会优化单个推理序列,并对局部结论如何支持后续决策提供有限的监督。我们引入了依赖性感知中级 QA 监督 (DAIS),这是一种训练时框架,可将经过筛选的教师基本原理转换为阶段级 QA 记录。每个中间记录根据该决策所需的先前状态预测本地答案,而最终答案记录保留原始任务格式;因此,评估仅使用原始输入和可选上下文。在具有多个 Qwen 主干的 GDPR、AIACT、MedQA 和 FOLIO 中,DAIS 比仅答案、扁平思想链和独立 QA 基线提高了平均最终答案准确性。 同策略 合规基准测试中,与最强的非 DAIS 基准相比,它实现了 5.6% 的最大增益和 4.2% 的平均增益。受控消融表明,有效的先前状态调节的贡献超出了较长的目标或附加中间文本,支持依赖条件调节的中间 QA 作为标准最终答案推理的轻量级辅助监督信号。