SPHINX：先解释，再探索

生成对抗性驾驶场景对于在模拟中评估和改进自动驾驶汽车决策系统至关重要。最近的方法主要依赖于 大语言模型 和视觉语言模型的先验知识来按程序生成驾驶场景。我们认为，对抗性场景应该基于驾驶策略的失败诊断（例如，优柔寡断、多帧不一致）来生成，以专门解决策略的弱点，而不是依赖于先前的假设。在本文中，我们提出了 SPHINX，这是一种用于对抗场景合成的闭环框架，遵循一个简单的原则：先解释，然后探索。除了盲目地探索场景空间之外，SPHINX还利用可解释的人工智能方法来分析政策，识别关键视觉概念及其对同策略输出的影响，以及决策的不确定性。考虑到从政策自身决策过程中提取的可解释证据，我们使用视觉语言模型来合理化和批评当前政策的失败模式。然后，这些批评者被用来生成有针对性的对抗场景，以进行政策再培训和改进。我们证明 SPHINX 可以突出显示政策失败的可解释说明，而其他对抗性场景生成则不能。在评估的基准和测试套件中，SPHINX 可应用于各种最先进的自动驾驶汽车架构，并比现有场景生成方法产生一致的鲁棒性改进。