论文
增强现实中矛盾的虚拟内容攻击下的视觉语言模型基准测试
Benchmarking Vision-Language Models under Contradictory Virtual Content Attacks in Augmented Reality
摘要
增强现实 (AR) 在过去十年中迅速发展。随着 AR 越来越融入日常生活，其安全性和可靠性成为严峻的挑战。在各种威胁中，矛盾的虚拟内容攻击（即恶意或不一致的虚拟元素被引入用户的视野）会通过误导用户、造成语义混乱或传递有害信息而带来独特的风险。在这项工作中，我们系统地对此类攻击进行建模，并提出了 ContrAR，这是一种新颖的基准，用于评估视觉语言模型 (VLM) 针对 AR 中的虚拟内容操纵和矛盾的鲁棒性。 ContrAR 包含由 10 名人类参与者验证的 312 个真实世界 AR 视频。我们进一步对 11 个 VLM 进行基准测试，包括商业模型和开源模型。实验结果表明，虽然当前的 VLM 对矛盾的虚拟内容表现出合理的理解，但在 AR 环境中对抗性内容操纵的检测和推理方面仍有改进的空间。此外，平衡检测精度和延迟仍然具有挑战性。