Anchor Divergence：以语义锚点重塑固定表示的检索几何

本文关注语义上下文如何确定学习向量表示中的几何形状。相似度通常使用余弦相似度来测量，它提供了单一的固定几何形状。然而，语义相似性本质上是依赖于上下文的：两个图像可能相似，因为它们描绘了相同的对象、共享视觉风格或与相同的临床发现相关。我们表明，对比表示自然地包含一系列可以专门用于特定语义结构的几何图形。关键思想是利用对比学习、指数族和信息几何之间的相互作用来建立“锚”上的概率分布和表示空间上的Bregman几何之间的对应关系。我们使用这种对应关系来定义“锚散度”，这是一种在固定表示上指定上下文特定语义几何的方法。在这种对应关系下，对锚分布进行建模对几何形状本身进行建模。检索实验表明，锚散度提供了一种有效且高效的方法来指定上下文特定的语义相似性。