论文
TESTNAV:面向组合鲁棒性测试的Pareto引导搜索
TESTNAV: Pareto-Guided Search for Compositional Robustness Testing
摘要
深度学习模型在真实世界的输入扰动面前依然脆弱,尤其是当多种破坏在同一个输入中同时出现时(例如亮度偏移与运动模糊)。组合测试能够揭示这些交互效应,但带来两个挑战:随着扰动维度和严重性等级的增加,扰动空间呈组合式增长;以及诊断价值不均——许多组合产生不切实际的退化输入,现实相关性有限。我们提出 TESTNAV,一个Pareto引导的鲁棒性测试框架,用于在只能评估有限数量扰动配置的情况下高效探索离散的组合扰动空间。TESTNAV 将鲁棒性测试表述为双目标优化——最大化性能退化,同时保持由模态特定指标衡量的输入保真度(视觉用 SSIM 和 KID,语言和代码用 chrF 和 BERT-F1)——从而优先发现严重但真实的失败。它使用 NSGA-II 来逼近双目标Pareto前沿。在涵盖视觉、自然语言和代码生成的四个基准上,TESTNAV 恢复Pareto前沿的速度比基于搜索的基线最高快 2.15 倍,仅使用了由四个扰动维度、每维六个等级所定义的离散扰动空间的 35.8%–89.3%。
