论文
SLLCP:自动驾驶VLM安全的局部共形监控
Localized Conformal Safety Monitoring with Vision-Language Models for Autonomous Driving
摘要
监控规划的驾驶轨迹需要准确估计与智能体的碰撞可能性——后者的运动本身受自车运动影响。既有经典方法常受预测模型质量限制;视觉-语言模型(VLM)在对高层动作后果推理上展现前景,但其近似预测不适合自动驾驶等安全关键应用。共形预测(CP)为量化黑盒模型预测的不确定性提供了数据驱动框架。我们提出分裂标签-局部共形预测(SLLCP):冻结VLM上的事后校准层,把不可靠预测转化为概率校准的安全预测集。考虑到安全估计能力可能依赖所观察的驾驶场景,我们引入局部化程序,在计算不确定性阈值时上调相关既往经验的权重;在可交换性下给出标签条件的有限样本无分布覆盖保证。在15000条来自未见场景的CARLA轨迹上评估:SLLCP以Qwen骨干正确标记89.6%的致碰撞轨迹、Cosmos骨干88.4%,而基座VLM仅标记4.6%与39.1%。结果表明局部、标签条件的校准可减少漏检的不安全轨迹。