论文
眼见为实:通过对具体主体的积极干预来减轻信念惯性
Seeing Isn't Believing: Mitigating Belief Inertia via Active Intervention in Embodied Agents
摘要
大语言模型 (LLM) 的最新进展使智能体能够通过环境交互来处理复杂的具体任务。然而,这些智能体仍然会做出次优的决策并执行无效的行动,因为他们经常忽视与其内部信念不同的关键环境反馈。通过正式的探索分析,我们将其描述为信念惯性,即尽管有明确的观察,主体仍顽固地坚持先前的信念的现象。为了解决这个问题,我们提倡积极的信念干预,从被动理解转向主动管理。我们引入了估计-验证-更新(EVU)机制,该机制使智能体能够预测预期结果,通过明确的推理根据观察结果验证它们,并根据验证证据主动更新先前的信念。 EVU 被设计为一种统一的干预机制,可以明确地生成文本信念状态,并且可以集成到基于提示和基于训练的代理推理方法中。跨三个具体基准的广泛实验表明,EVU 始终能够显着提高任务成功率。进一步的分析验证了我们的方法有效地减轻了信念惯性,促进了更强大的实体代理的开发。我们的代码可在 https://github.com/WangHanLinHenry/EVU 获取。