论文
别盲目信它:不可靠反馈如何破坏工具使用LLM智能体
Don't Blindly Trust It: How Unreliable Feedback Breaks Tool-Using LLM Agents
摘要
工具增广智能体通常以其在可靠外部反馈下的增益被评估。但这些增益留下一个关键反事实:当反馈不可靠时——智能体收不到任务证据会不会更好?我们以受控匹配环比较研究该问题——固定智能体循环、提示、动作空间与解码——仅变化返回的观察:忠实、误导或缺失。跨问答与事实验证——持续误导反馈产生价值反转:受益于干净工具的智能体可能比匹配的无反馈回退更差。在HotpotQA上——Qwen2.5-7B以干净检索达44.8 F1、无反馈22.3 F1——但打乱检索下降到4.7 F1。该反转在更强干净检索与局部貌似合理的干扰下持续——但当后续干净证据能修复轨迹时减弱。早期轨迹信号预测许多失败——但简单修复仍受回退限制:仅当暴露的回退可靠时——拒绝坏证据才有帮助。这些结果表明干净工具增益可能高估工具价值——匹配的无反馈回退对照是评估工具增广智能体的必要条件。
