论文
世界状态生成器(World State Generator)
World State Generator
摘要
语言智能体通过计划与动作解决复杂任务。只要世界拒绝了某一步,目标就可能变得遥不可及,而智能体接下来做什么决定了任务成败。提示式规划器恰恰在这里失败:它们只是换种措辞重写被拒绝的步骤,再次遭遇同样的拒绝,在原地耗尽尝试预算。它们失败的原因在于计划从未与世界绑定,因此拒绝发生时计划中没有任何可以依附之处。世界是任务运行之处,它有自己的规则、自己的可许可动作和自己的约束。我们在 7 个领域构建合成世界并从中提取训练数据。一个程序负责执行每个世界的规则并评定目标,且只有当目标从初始状态可达时,该世界才被接纳。智能体在其中运行,留下经过验证的失败,以及把运行带入世界所认可状态的修复,形成约 22.6 万条轨迹的记录。在该记录上,我们训练 World State Generator(WSG),一个把计划写成可检验的世界状态、并使计划与其运行所在世界保持对齐的模型。这种对齐正是用语言写就的计划所缺失的:世界有其物理限制、逻辑依赖和语言从未言明的先后要求,计划只有在某个状态失败时才会遇到这些规则。WSG 把这种失败视为世界宣告的规则,并重写余下状态以服从它,使计划随着运行推进而不断向世界靠拢。在 7 个公开基准上,WSG 使两个约 30B 参数的开源模型的端到端成功率超过提示方法,并达到专有模型的水平。
