论文

图世界模型中的多步预测误差分析

Understanding Rollout Error in Graph World Models

模型评测模型行为与机制分析

摘要

世界模型越来越多地用于规划,但大多数转出误差分析都假设向量值状态和标量误差放大。然而,许多规划环境本质上是图形结构的:代理、工具、技能、路线和依赖关系通过不断发展的关系进行交互。在这项工作中,我们研究预测误差如何在图世界模型(GWM)中累积。我们在统一的状态-动作转换框架下制定固定边和动态边 GWM 预测轨迹,并导出拓扑感知错误界限。对于固定边轨迹预测,我们表明长范围节点误差分为由图谱的谱半径控制的拓扑因子和由层谱范数控制的模型因子。对于动态边轨迹预测,我们引入了一个联合节点边缘错误算子,它捕获特征预测和结构预测之间的反馈,揭示边缘错误何时放大未来的消息传递。受这些界限的启发,我们提出了错误感知 GWM,这是一个结合了谱正则化、轨迹预测一致性和关键节点加权的训练目标。在合成图拓扑和异构代理图测试台中,我们发现轨迹预测错误和规划遗憾随着范围的增加而增加,当结构演变时动态边训练是必要的,并且错误感知的 GWM 在不牺牲一步精度的情况下提高了长期稳定性。我们的结果描述了图世界模型何时在自回归规划下保持可靠以及何时拓扑导致它们失败。