论文

RH-RAG:隐私受限设置的可信长格式生成

RH-RAG: Trustworthy Long-Form Generation for Privacy-Constrained Settings

智能体系统Agent 协作

摘要

对于在严格的隐私和安全限制下运营的组织来说,从大量的内部报告生成长格式内容仍然具有挑战性,在这些组织中,基于云的专有 LLM API 通常不可行。虽然本地部署的开放权重模型提供了一种保护隐私的替代方案,但较小模型上现有的检索增强生成(RAG)方法经常缺乏有效的全局规划,并且在长期输出中会积累事实不一致的情况。为了解决这些限制,我们提出了 RH-RAG,这是一种使用本地语言模型安全且值得信赖的长格式生成的多代理框架。 RH-RAG 将生成分解为三个协调的阶段:一个从高级语义摘要构建全局文档大纲的规划器代理,一个使用有界连贯性内存增量生成连贯的分段内容的编写器代理,以及一个通过基于自然语言推理的事实验证和证明驱动的修订循环来减轻幻觉的检查器代理。该框架还采用了双层检索索引,支持消费级硬件上的高效规划和细粒度上下文生成。文学、金融和法律领域的评估表明,与标准和分层 RAG 基线相比,RH-RAG 持续改进了事实基础、语义一致性和文档级对齐,同时在不损害数据隐私的情况下实现了与基于云的专有系统竞争的可靠性。