论文

TACT:经激活引导缓解编码智能体的过度思考与过度行动

TACT: Mitigating Overthinking and Overacting in Coding Agents via Activation Steering

模型推理解码与生成控制

摘要

当语言模型代理处理复杂的软件工程任务时,它们通常会在较长的轨迹上退化,我们将其定义为“代理漂移”。我们关注两种反复出现的失败模式“过度思考”和“过度行动”,即代理反复推理其已有的信息,以及在不整合最近的观察或获取新证据的情况下发出工具调用。在本文中,我们引入了 TACT(通过激活转向进行思考-行动校准),以在残余流表现为行为故障之前检测并减轻残余流中的代理漂移。具体来说,我们将轨迹步骤标记为过度思考、过度行为或校准,并发现它们的隐藏状态可以沿着两个*漂移轴*线性分离,从校准行为指向每种故障模式(AUC $\approx$ 0.9)。为了减轻代理漂移,我们在测试时将每个步骤的激活投影到这些轴上,并将漂移的轴拉回校准区域。实验表明,TACT 在 SWE-bench Verified、Terminal-Bench 2.0 和 CLAW-Eval 上的性能优于无导向基线,在 Qwen3.5-27B 上将平均解决率提高了 $+5.8$,在 Gemma-4-26B-A4B-it 上将平均解决率提高了 $+4.8$,同时将解决步骤减少了高达 $26\%$。这些增益将代理漂移作为剩余流中的可操纵方向,并将 TACT 定位为可靠的长视野代理的可行手柄。

TACT:经激活引导缓解编码智能体的过度思考与过度行动:论文配图
图 1:映射到激活空间的编码代理的两种故障模式。左右面板显示了过度行动轨迹(左)和过度思考轨迹(右)的具体步骤。中心面板将 </think> 标记处的每个步骤的隐藏状态投影到我们的两个漂移轴上:校准的步骤聚集在中心带中,而过度思考和过度行动的轨迹则以相反的方向向外漂移。两种故障模式都可以与沿各自轴的校准激活线性分离,从而激发了测试时使用的双轴转向(第 2.4 节)。