论文
归因可以预测风险吗?从多视角归因到端到端自动驾驶风险信号规划
Can Attribution Predict Risk? From Multi-View Attribution to Planning Risk Signals in End-to-End Autonomous Driving
摘要
端到端自动驾驶模型从多视图输入生成未来轨迹,改善了系统集成,但引入了不透明的决策和难以本地化的风险。现有方法要么依赖辅助监控模型,要么生成文本解释,但与规划过程脱钩,无法揭示轨迹生成背后的视觉证据。虽然归因提供了直接的替代方案,但规划与图像分类不同,它以六视图相机图像作为输入并预测连续的多步轨迹,需要归因来捕获关键视图和区域及其对输出的影响。此外,归因图是否可以支持风险识别仍有待探索。为了解决这个问题,我们提出了一个用于端到端规划的分层归因框架。具体来说,以与原始轨迹的 L2 一致性为目标,我们设计了一种从粗到细的区域归因策略,在整个六视图输入中搜索候选区域并细化其中的归因。我们进一步提取三个归因统计数据作为规划风险的预测信号,包括归因熵来衡量规划者对联合视觉空间的依赖程度,摄像机内空间方差来表征归因在每个视图内的分布情况,以及跨摄像机基尼系数来量化归因在六个摄像机上分布的不均匀程度。 BridgeAD、UniAD 和 GenAD 上的实验表明,这些统计数据与规划风险相关,轨迹误差的 Spearman 相关性为 $0.30 \pm 0.07$,碰撞检测的 AUROC 为 $0.77 \pm 0.04$。该信号推广到可忽略不计的退化的保留场景,并在替代归因基线下保持稳定。