论文
结构感知 RAG:会话代理的噪声数据的结构化检索增强生成
Structure-Aware RAG: Structured Retrieval Augmented Generation from Noisy Data for Conversational Agents
摘要
大语言模型(LLM)已在会话应用中广泛采用。然而,它们对参数知识的依赖限制了需要动态或特定领域信息的现实场景中的可靠性。检索增强生成 (RAG) 通过在生成过程中结合外部知识来解决这一限制,但现有的基于文本和基于图形的 RAG 方法常常难以应对嘈杂或不相关的上下文。在这项工作中,我们提出了结构感知检索增强生成(SA-RAG),它使用表作为中间结构化表示来提供紧凑且可控的接口,在保留基本信息的同时减少噪声。我们引入了一个质量感知的表元数据生成框架,该框架可以对元数据规范化和有效性进行建模,从而提高元数据质量和下游性能。此外,我们还探索了 无需训练 和基于训练的表生成方法。生成验证和直接偏好优化进一步提高了表质量,同时保持语义和结构一致性。对两个嘈杂的现实世界数据集的实验表明,SA-RAG 显着优于现有的 RAG 基线。我们的代码在公共存储库中公开可用。