论文
超越指令遵循:通过技能合同学习扎根的技能遵循
Beyond Instruction Following: Learning Grounded Skill-Following with Skill Contracts
摘要
指令遵循通常强制执行离散的响应级别要求,而专家编写的技能则规定跨越多个阶段和环境交互的程序要求。有了这样的技能,我们训练执行者执行所有必需的阶段,而不是仅仅关注最终答案。因此,我们引入了扎根技能跟踪,它要求智能体通过根据环境观察中的决策来在其所需阶段执行固定的、专家编写的技能。为了实现可验证的程序执行,我们将每个技能制定为技能合约,将可见的技能指令与显式的合约运行时相结合。运行时指定所需的阶段、允许的操作、允许的转换和接受的终止。该结构在整个执行过程中提供了密集的、可验证的训练信号。我们通过引入验证进度信用来利用这一点,该信用在合同里程碑的初始完成时分配奖励,并将其汇总到轨迹回报中以指导策略优化。在执行轨迹期间,合约运行时持续跟踪状态转换以提供合约状态反馈,该反馈指示最新操作是否被接受并引导智能体进行有效的下一步操作。为了衡量程序合规性,我们引入了协议完成率(PCR),定义为通过所有必需的阶段达到可接受的终止,并将其与最终任务结果脱钩。与我们的框架联合训练,Qwen3.5-4B 在数学方面实现了 99.27% 的协议完成率,在搜索方面实现了 99.96% 的协议完成率,同时在任务结果方面略优于原始基线(分别为 82.95% 和 46.61%)。对照研究检查技能指令、训练信号和契约状态反馈如何影响这两个指标,同时保留干预措施评估对观察内容的行为依赖性。
