论文

弥合感知差距:NR-IQA 的残差增强降尺度和流形感知感知对齐适应

Bridging the Perceptual Gap: Residual-Enhanced Downscaling and Manifold-Aware Perception Alignment Adaptation for NR-IQA

模型架构新型架构

摘要

利用 CLIP 等大型视觉语言模型最近为无参考图像质量评估 (NR-IQA) 设定了新基准。然而,CLIP 的对比预训练本质上优先考虑语义不变性,这通常会抑制微妙的感知信号,我们将这种现象称为感知淹没。此外,标准预处理技术(例如裁剪和插值)进一步加剧了关键高频质量线索的丢失。在本文中,我们提出了跨模态感知对齐适配器(CMPA),这是一种流形感知框架,旨在将感知扭曲与主导语义分开。 CMPA 引入了感知敏感特征提取器 (PFE),它将 CLIP 特征投影到紧凑的低维子空间中,显式放大失真引起的偏离流形偏差。随后,跨模态感知对齐注入器(PAI)将这些特征与质量感知文本锚点对齐,并将它们重新注入到主干中。为了确保输入保真度,我们还设计了一种残差增强感知降尺度策略,该策略使用可察觉差异 (JND) 引导频率重新注入来自适应补偿分辨率引起的信息丢失。对几个基准数据集的广泛评估表明,我们的方法明显优于最先进的方法,有效地恢复了淹没在语义密集表示中的感知信号。