显式故障与静默故障：工具Agent的检测与恢复评测

工具型Agent通常在工具正常运行的前提下，以是否完成任务评分。但部署环境更加复杂：服务可能超时、接口可能消失、参数名称可能变化，返回内容也可能格式正确但值错误。此前研究表明，语言模型会过度信任静默失败的工具输出；我们研究这种过度信任如何影响多轮Agent处理故障的各个阶段。我们为一个已有函数调用基准的可执行环境增加故障注入层，在轨迹的受控位置注入四种故障之一，记录Agent是否发现问题、调整计划、恢复任务或重复操作。三个系列的六个模型，其中一半是推理版本，在24项多步骤任务上共进行了1,920次试验。工具明确报错时，Agent在91.3%的试验中发现问题；返回看似合理的错误值时，该比例为58.8%；无故障时，误报问题的比例为26.8%。推理模型没有明显优势：与同系列指令模型相比，它们发现问题更少，降低9.3个百分点，p<.001；调整计划更多，增加10.4个百分点，p<.001；恢复率没有变化，p=.512。由于Agent具有随机性，同一任务的两次无故障运行只有63.3%到达相同最终状态。相较这一基线，仅工具缺失明确降低恢复率至39.9%，而超时、接口结构变化和结果损坏的影响仍处于运行间波动范围。在最多22.2%的试验中，故障后Agent会连续三次或更多次调用同一工具，但完全相同的重复调用较少。在提示中要求逐项检查结果，并未改善故障发现。Agent主要响应显式错误通道，而非核验工具返回的实际内容，因此符合预期格式的错误容易被放过。