论文

TRIM-ReID:用于多模态对象重新识别的重复感知token减少和模态对齐交互

TRIM-ReID: Duplication-Aware Token Reduction and Modality-Aligned Interaction for Multi-Modal Object Re-Identification

应用与实践视觉感知与空间理解

摘要

多模态物体重新识别利用互补的 RGB、近红外 (NIR) 和热红外 (TIR) 观测来检索目标物体。然而,现有方法通常采用针对全局图像文本对齐进行优化的视觉编码器,并使用学习的重要性分数选择token。此类设计无法保留细粒度的身份线索或明确考虑token冗余,从而导致局部证据代表性不足和重复的token ,从而导致嘈杂且成本高昂的跨模式交互。为了解决这一差距,我们提出了 TRIM-ReID,这是一个紧凑的框架,它统一了密集特征提取、模态内token缩减和模态间对齐交互。具体来说,通过密集身份表示 (DIR) 提取语义丰富且空间连贯的补丁特征,该表示利用 DINOv3 来保留细粒度的身份信息。然后,我们引入token多样性挖掘(TDM)来识别互补的本地证据,并通过抑制重复补丁同时保留信息多样性来构建紧凑的模态特定token集。保留的token随后通过模态关系交互 (MRI) 进行融合,以实现跨模态的有效信息交换,而三角对齐损失明确规范其联合关系,以在独立的token选择下保持跨模态语义一致性。在 RGBNT201、RGBNT100 和 MSVR310 上进行的大量实验表明 TRIM-ReID 实现了最先进的性能。

TRIM-ReID:用于多模态对象重新识别的重复感知token减少和模态对齐交互的原论文方法或结果图
图 1:TRIM-ReID 总体框架。它由三个核心部分组成:DIR、TDM 和 MRI。