论文
治理也可能制造干扰:工具Agent的成本感知退避机制
When the Governor Becomes the Disturbance: Control-Generated Disturbance and Cost-Aware Backoff in Governed Tool-Using Agents
摘要
监管者可以干预他们监管的使用工具的Agent。我们在受控文件恢复环境中研究这种可能性,在该环境中,监管强度的增加会触发实验性强加的工具故障。成本盲目的调控器可以将这些故障转变为持续阻塞,从而阻止任务完成。我们将该调控器与退避规则进行比较,该退避规则使用已知诱发事件的移动平均值来降低干预概率。在手动编码的随机策略Agent上,故障模式出现在结果替换和损坏的工具参数的执行下。对于持久性策略,相对于干预频率大致匹配的固定弱调控器,自适应退避可以提高完成度。 Gemini 2.5 Flash 实验包含 6 个任务的 576 个情节,也显示出在退避下减少了阻塞并提高了完成度;在测试的设置中,中等退避强度实现了观察到的最高总体成功率。这些结果确定了干预成本和持续行动阻碍之间的相互作用,以及可能的缓解措施。施加成本机制,并且其引发的事件可以直接观察到退避规则;超出这种受控环境的适用性仍然是一个经验问题。