论文

MAGIC:具有最佳传输的边缘引导压缩,可实现高效的视觉文档检索

MAGIC: Marginal-Guided Compression with Optimal Transport for Efficient Visual Document Retrieval

摘要

最近的视觉文档检索 (VDR) 系统(例如 ColPali)使用多向量页面嵌入,其中补丁级向量可以实现细粒度的证据匹配,但会产生大量的索引存储和 MaxSim 评分开销。事后合并通过降低成本而无需重新训练检索器,为高效 VDR 提供了一条实用途径,但其均匀重建目标与后期交互检索引起的稀疏、不均匀补丁使用不一致。在积极的压缩下,这种错位可以保留很少使用的补丁,同时将检索活动集中在太少的保留代表上。为了解决这种不一致问题,我们提出了带有最佳传输的边际引导压缩(MAGIC),这是一种无需训练的事后压缩器,可通过冻结的多向量嵌入进行高效检索。 MAGIC 导出 MaxSim 诱导的压缩替代项,并通过两个边际熵最优传输公式对其进行优化,其中检索需求源边际优先考虑高使用率补丁,平衡目标边际规范保留面使用。在 ViDoRe 基准、保持比率和检索主干上,MAGIC 始终优于强大的事后压缩器,在积极压缩机制中取得了特别大的进步;成分消融验证了其两个边际的互补效应。我们在以下位置发布代码:此 https URL。