三月：针对 LLM 幻觉的多代理强化自检

幻觉仍然是 大语言模型 (LLM) 的一个关键瓶颈，削弱了它们在现实应用中的可靠性，特别是在检索增强生成 (RAG) 系统中。虽然现有的幻觉检测方法采用 LLM 作为法官来根据检索到的证据来验证 LLM 输出，但它们存在固有的确认偏差，即验证者无意中重现了原始生成的错误。为了解决这个问题，我们引入了多智能体强化幻觉自我检查（MARCH），这是一个通过利用故意的信息不对称来强制执行严格的事实对齐的框架。 MARCH 协调了三个专业代理的协作管道：求解器、提议器和检查器。求解器生成初始 RAG 响应，提议器将其分解为声明级可验证原子命题。至关重要的是，检查器根据检索到的证据单独验证这些命题，剥夺了求解器的原始输出。这种精心设计的信息不对称方案打破了自我确认偏差的循环。通过使用多智能体强化学习 (MARL) 训练该管道，我们使智能体能够共同进化并优化事实遵守情况。跨幻觉基准的广泛实验表明，MARCH 大大降低了幻觉发生率。值得注意的是，搭载MARCH的8B参数LLM的性能可与强大的闭源模型相媲美。 MARCH 通过共同进化为 LLM 的实际自我改进铺平了一条可扩展的道路。代码位于 https://github.com/Qwen-Applications/MARCH。