论文

AGWM:具有构成先决条件的环境的基于可供性的世界模型

AGWM: Affordance-Grounded World Models for Environments with Compositional Prerequisites

模型架构新型架构

摘要

在基于模型的学习中,智能体通过基于世界模型预测模拟轨迹来学习行为。标准世界模型通常学习一个静态转换函数,将状态和动作映射到下一个状态,当动作和结果在训练数据中频繁同时出现时,模型倾向于将这种相关性内化为一般因果规则,同时忽略动作先决条件。然而,在交互式环境中,代理行为可以重塑未来的可供性空间。在每个时间步,一个动作只有在满足其先决条件后才可以变得可执行,或者在它们被销毁时变得不可执行。我们将此类事件称为结构改变事件(SC 事件)。因此,传统的世界模型通常无法确定给定的动作在当前状态下是否可执行,尤其是在多步预测中。每个想象的步骤都以不正确的可供性状态为条件,因此预测误差在采样轨迹范围内复合。在本文中,我们提出了 AGWM(Affordance-Grounded World Model),它学习一种抽象的可供性结构,表示为先决条件依赖项的 DAG,以显式跟踪操作的动态可执行性。基于游戏的模拟环境的实验通过实现更低的多步预测误差、更好地泛化到新配置以及提高可解释性来证明我们的方法的有效性。