论文
HorusEye:语言作为紧急视觉分析的动态注意力
HorusEye: Language as Dynamic Attention for Emergency Visual Analysis
摘要
我们介绍 HorusEye,语言作为紧急视觉分析的动态注意力。我们的调查分为五个阶段。第一个是对 RefCOCO-Degraded 进行基准测试,该数据集包含 15,244 张图像(3,811 张基本图像 x 4 种条件:清洁、雾、烟和热),具有系统性视觉退化。通过四个研究问题,我们评估了多个 VLM(Gemini、Qwen2-VL、BLIP-2、LLaVA、Kosmos-2),包括第二阶段的视觉基础、第三阶段的语言反馈恢复、第四阶段的健康 VQA 任务和最后阶段的幻觉分析。我们的主要发现是语言反馈有效性取决于模型:Gemini 通过迭代语言反馈实现了 +47.3% 的热条件改善,而 Qwen2-VL 在相同协议下表现出 -5.1% 的退化。我们还发现了“热悖论”,即提高 RGB 性能的裁剪策略在热图像中会发生灾难性的失败。此外,BLIP-2在降解时会产生更多幻觉,因此不适合紧急部署