论文

巴巴仙境:可执行世界模型的在线自监督动力学发现

Baba in Wonderland: Online Self-Supervised Dynamics Discovery for Executable World Models

智能体系统Agent 环境交互

摘要

可执行的世界模型可以被读取、编辑、执行和重用于规划,但前提是程序捕获环境的转换规律而不是其表面​​词汇中的语义快捷方式。我们研究先验错位下的在线可执行世界模型学习,其中代理必须仅从交互证据中诱导状态依赖的动态,而无需规则描述、奖励信号或值得信赖的词汇先验。我们引入了 Alice,一个闭环系统,它将失败的候选更新视为结构信号:当候选解释一个新的转换但丢失了之前解释的转换时,保存冲突揭示了当前程序合并的动态。 Alice 将这些冲突细化为假设类,这些假设类既提供紧凑的、类分层的保存反例用于更新,又引导前沿探索向相对于当前程序而言新颖且代表性不足的转变。我们评估了《Baba in Wonderland》中的《爱丽丝》,这是《Baba Is You》的一个先前未对齐的变体,它保留了模拟器动态,同时用不相关的单词替换了语义上有意义的规则属性标签。实验表明,爱丽丝在先前错位的情况下极大地改进了可执行的世界模型学习,并且消融表明类细化和类感知探索都做出了贡献。