论文
迈向汽车感知系统视觉语言模型的系统鉴定
Towards Systematic Qualification of Vision-Language Models for Automotive Perception Systems
摘要
人工智能领域已被许多应用领域采用。视觉语言模型是最近先进的人工智能技术之一，已被探索用于支持车辆感知和安全保证等汽车功能。然而，这种语言模型很容易产生幻觉，对可能包含它们的汽车系统的安全构成潜在威胁。在汽车领域，VLM 不仅会产生幻觉交通物体，而且还可能无法识别实际存在的交通物体，这可能会导致危险情况。尽管我们观察到越来越多的文献提出了安全可信人工智能的验证和确认技术，但这些方法通常是孤立研究的，重点关注运行时或设计时阶段。在汽车感知系统等安全关键的现实环境中，这种孤立的技术可能是不够的。在本文中，我们根据 Huang 等人提出的分类法分析了设计时和运行时验证和验证技术。我们提出了一项汽车研究，其中提出了设计时鉴定工作流程来补充运行时监控。该工作流程将固定的安全相关的基于本体的结构化注释系统与基于同义词的评估流程结合起来，根据 nuScenes 数据集的数据对三个最先进的 VLM 进行统计评估。我们观察到，所提出的技术能够对 VLM 在汽车感知相关任务中产生的幻觉进行确定性和可重复的量化。拟议的工作流程支持设计时验证和确认过程中的模型比较和面向部署的工程决策，并将有助于制定整体验证策略，努力实现值得信赖的汽车感知系统