PolicyBank：LLM 代理不断发展的策略理解

LLM 在组织策略下运行的代理必须遵守通常以自然语言指定的授权约束。在实践中，此类规范不可避免地包含歧义和逻辑或语义差距，导致代理的行为系统地偏离真实需求。我们问：通过让代理通过交互和部署前测试的纠正反馈来发展其策略理解，它可以自主地完善其解释以缩小规范差距吗？我们提出了PolicyBank，这是一种记忆机制，可以维护结构化的、工具级的策略洞察并迭代地完善它们——与将策略视为不可变的真值的现有记忆机制不同，强化“合规但错误”的行为。我们还通过扩展流行的工具调用基准来提供一个系统测试平台，该基准具有受控的策略间隙，可将对齐失败与执行失败隔离开来。虽然现有的记忆机制在 同策略 差距场景中取得的成功几乎为零，但 PolicyBank 缩小了与人类预言机的 82% 的差距。