论文
Ricci-Filtration:通过离散 Ricci 流增强检索增强生成重排序器来执行查询-应答任务
Ricci-Filtration: Boosting Retrieval-Augmented Generation Reranker to Query-Answer Tasks by Discrete Ricci Flow
摘要
里奇流是一种曲率引导的扩散过程,通过收缩高正曲率区域并扩展负曲率区域来使空间变形。类似地,加权图上的离散里奇流通过收缩具有正里奇曲率的边并拉伸具有负里奇曲率的边来修改边权重,从而有效地增加簇之间的分离。受这两个基石工作的启发,我们提出了一种基于几何的 RAG 重排序增强程序,称为 Ricci-Filtration。通过将输入查询和初始检索的块建模为网络,其中输入查询和块充当节点,基于嵌入的成对关系定义初始图,Ricci-Filtration 利用离散曲率和 Ricci 流来评估每个块相对于用户查询的结构重要性。系统首先根据初始块相对于查询的几何曲率过滤它们;然后,重新排序器处理剩余的块以增强生成性能。我们从理论上证明,归一化离散 Ricci 流可以通过识别边权重中不同的渐近行为来检测社区结构。这支持删除“嘈杂”文档块,这些文档块的特征是相对于查询节点的权重较大且为负里奇曲率。大量实验证实,Ricci-Filtration 在准确度、精确度、召回率和 F1 分数方面优于多种基线重排序方法。此外,消融研究表明,Ricci-Filtration 在各种设置下通常优于基线,突出了该框架在不同架构中的稳健性。