在动态变化的规范下进行推理与规划

为了与人类安全地交互，AI 代理必须既知晓我们的规范，又在规划中考虑这些规范。然而，这种由规范引导的规划研究较少，仅局限于人工代理社区之内，并且忽略了规范的动态本质。本文转而提出一种在人机场景中以动态变化的规范引导规划的方法。我们贡献了一个用于化解规范冲突的可推翻（defeasible）演算，以及一种把这类动态变化的规范用作规划护栏的方法。我们通过形式化证明对该方法进行理论论证，并通过 AI 代理 SocialBot 在自然语言对话任务上进行实证。