论文

输出类型先于质量:从标准导出的XAI可采性量规用于自动驾驶

Output Type Before Quality: A Standards-Derived XAI Admissibility Rubric for Autonomous-Driving Safety

模型评测评测方法与指标

摘要

基于 ML 的自动驾驶的安全标准指定了保证案例必须包含的证据类型(定向因果链、量化干预效果、命名根本原因变量),而 XAI 文献是按输出类型和技术系列(显着性图、特征归因、反事实、因果图、语言轨迹)组织的。 SHAP 是最受推荐的 ADS XAI 方法,它返回一个排名特征列表,任何实现工作都无法将其转换为有向链(图 1)。我们将这种不匹配称为证据类型差距。从 AMLAS、ISO 26262、ISO21448、ISO/PAS 8800,我们在 7 个生命周期阶段得出 19 个可测试的证据标准,并具有代表性的子句引用推导,并对六个 XAI 方法类别进行结构性评分。因果 XAI 的出现在结构上需要满足三个阶段的派生标准:危害识别(+62% 标题差距)、事件调查(+50%)和数据管理(+50%);判决集在 (0%, 50%]$ 的阈值 T 内保持稳定,并且能够承受最坏情况的单细胞翻转至 T = 25%。在其余四个阶段,相关或基于语言的方法是可比的或充分的。该标题识别结构可接受性(必要但不足以满足合规性):可接受方法的特定输出内容可能仍然是错误的,并验证保真度(拟合的 SCM 产生的边缘,跟踪名称的原因)是开放保证挑战。针对 1,996 个现实世界驾驶片段(79,840 行,10 个分割)的单 VLA 概念证明与与其标题预测相匹配的每种方法的观察到的输出类型一致,ADS 安全保证的 XAI 方法选择应由生命周期阶段证据需求驱动,而不是由方法流行度驱动。

输出类型先于质量:从标准导出的XAI可采性量规用于自动驾驶:论文配图
图 2:SCM 是 6×196\times 19 标题中唯一具有零结构故障的列。行:按生命周期阶段分组的标准; columns:具有列总计 S⋅P⋅FS\!\cdot\!P\!\cdot\!F 的方法。绿色电池在结构上满足标准,黄色部分,红色不合格。