微观宏观检索：减少 大语言模型 中的长幻觉

大语言模型 (LLM) 在许多任务中取得了令人印象深刻的性能，但仍然容易产生幻觉，特别是在长格式生成中，其中冗余的检索上下文和冗长的推理链会放大事实错误。最近的研究强调了一个关键现象：关键信息与模型输出越接近，事实准确性就越高。然而，现有的检索增强语言模型（RALM）缺乏有效的机制来确保这种接近性——外部证据通过多轮检索注入到推理中，但这不能确保关键信息与输出保持接近。我们提出了微观-宏观检索（M2R），一种新颖的生成时检索框架来填补这一空白。在宏观层面，M2R从外部来源检索粗粒度的证据；在微观层面上，它从推理过程中构建的关键信息存储库中提取基本结果，并在生成答案时重用它们。这种设计直接解决了关键信息到输出的邻近瓶颈，有效减少了长任务中的幻觉。 M2R 采用基于课程学习的强化学习策略进行训练，使用定制的基于规则的奖励，从而能够稳定地获取检索和基础技能。跨不同基准的大量实验证明了 M2R 的有效性，特别是在长上下文设置中。