PACE：渐进式角度标准对比嵌入

多模态嵌入模型将异构输入编码到共享嵌入空间中，从而实现跨模态和任务的高效相似性计算。大多数现有方法优化基于余弦的对比目标，这促进了稳定的训练，但限制了对角度几何的语义兼容性，从而阻止嵌入规范充当附加语义信号。然而，直接优化更具表现力的点积相似度（同时利用角度和范数信息）的性能低于基于余弦的训练，并且表现出不稳定的训练动态。我们将这种差异归因于过早的优化空间扩展，表现为表示空间中的角度范数纠缠和方向各向异性，并通过全参数微调进一步加剧。在本文中，我们提出了 PACE，这是一个两阶段框架，可逐步扩展表示空间和可训练参数空间。第一阶段将基于余弦的目标与低秩自适应相结合，以在受限优化空间内建立可靠的角度几何形状。第二阶段切换到点积相似性和全参数微调，使嵌入方向和规范能够联合编码语义信息。我们进一步引入了焦点嵌入损失（Focal Embedding Loss），这是一种置信度自适应目标，它会降低具有高正检索置信度的查询的权重，同时强调具有竞争性负数的模糊查询。跨多个骨干规模和多种多模态嵌入任务的实验一致验证了 PACE 的有效性。