论文

如果、那么、否则:诊断视觉语言导航中的条件分支

If, Then, Otherwise: Diagnosing Conditional Branching in Vision-Language Navigation

智能体系统Agent任务评测

摘要

视觉语言导航代理通常根据其遵循类似路线的指令实现固定目标的能力进行评估。然而,真正的导航指令通常取决于观察到的环境状态:如果条件成立,则遵循一条路径,否则采取另一条路径。此类指令要求代理评估场景证据,选择正确的逻辑分支,并执行相应的导航行为。现有的评估对条件分支执行提供的控制有限,因此很难确定代理是否因感知、基础、导航或逻辑决策而失败。我们介绍了 CondVLN,这是一种基于场景图的基准,用于诊断视觉语言导航中的条件分支。 CondVLN 以编程方式生成指令,其分支条件基于可验证的 3D 场景图谓词,并在分支深度、依赖链长度、空间组成、证据可观察性和指令范围方面具有受控变化。 CondVLN 包含跨 AI2-THOR、Matterport3D、Gibson 和 ReplicaCAD 生成的 11,500 多个条件指令,并使用标准 VLN 指标和特定于分支的诊断来评估代理:分支选择准确性和条件成功率。评估四种最先进的 VLN 代理(VLN-Zero、NaVid、NaVILA 和 Open-Nav)表明,条件分支暴露了仅通过标准成功率或路径长度无法捕获的故障:代理可以合理地导航,同时提交到与观察到的场景条件不一致的分支。我们还提出了一种轻量级神经符号分支选择模型,将条件基础与导航执行分开,将性能提高了 2 倍。 CondVLN 提供了一个可重复使用的测试平台,用于测量具体代理是否不仅能够遵循指令,而且能够在正确的条件下遵循正确的指令。