自校正 RAG：通过 MMKP 上下文选择和 NLI 引导的 MCTS 增强 忠实性

检索增强生成（RAG）极大地扩展了 大语言模型 的知识边界。然而，它在处理复杂推理任务时仍然面临两大挑战：上下文利用率低和频繁出现幻觉。为了解决这些问题，我们提出了自校正 RAG，这是一个统一的框架，它将检索和生成重新表述为约束优化和路径规划。在输入方面，我们超越了传统的贪婪检索，首次将上下文选择形式化为多维多项选择背包问题（MMKP），从而在严格的 词元预算 下最大化信息密度并消除冗余。在输出方面，我们引入了自然语言推理（NLI）引导的蒙特卡罗树搜索（MCTS）机制，该机制利用测试时计算来动态探索推理轨迹并验证生成答案的 忠实性。对六个多跳问答和事实检查数据集的实验表明，我们的方法显着提高了复杂查询的推理准确性，同时有效减少了幻觉，优于现有的强大基线。我们的代码可在 https://github.com/xjiacs/Self-Correcting-RAG 上获取。