论文
表述完善,问题未解:识别长程工具使用智能体的后期压力状态
Polished but Unresolved: Identifying Late-Stage Pressure States in Long-Horizon Tool-Use Agents
摘要
长期工具使用代理不仅需要搜索和计划,还需要决定何时完成。我们研究后期压力状态,在这种状态下,代理人倾向于提交看起来完整且完善的最终答案,而关键约束仍未解决。我们首先训练一个线性探针,以表明该压力状态可以从代理的隐藏状态中识别出来。然后,我们沿着这个压力方向使用激活干预,发现改变隐藏状态会改变压力分数以及代理是否继续使用工具或提前提交。通过受控的上下文操作,我们进一步看到约束清晰度和动作映射减轻了压力。基于这些发现,我们提出了探针感应压力释放(PSPR),这是一个在中等压力下应用轻量级压力释放方向并在高压风险下转向结构化组织的插件。多个长期基准的实验表明,我们的方法持续增强了现有的代理方法。
