智能体RAG中的级联幻觉：检测与缓解的CHARM框架

多步骤代理检索增强生成（RAG）管道已经证明了复杂推理任务的强大能力，但仍然容易受到现有幻觉检测机制系统性忽略的一类故障的影响：级联幻觉，其中早期管道阶段引入的错误在连续的推理步骤中传播和放大，产生自信但实际上不正确的最终输出。为了解决这个漏洞，我们将级联幻觉形式化为代理 RAG 系统中的一种独特故障模式，提出了级联模式的四种分类法，并引入了 CHARM（级联幻觉感知解决和缓解），这是一种用于检测和中断多步推理管道中的错误传播的架构框架。 CHARM 包含四个组件 - 阶段级事实验证、跨阶段一致性跟踪、置信传播监控和级联解析触发 - 与标准代理 RAG 管道一起运行，无需更换架构。我们在 HotpotQA、MuSiQue、2WikiMultiHopQA 和跨 LangChain 代理管道配置的自定义对抗数据集上评估 CHARM，实现了 89.4% 的级联检测率、5.3% 的误报率和每级 215 ms +/- 18 ms 的平均延迟开销，实现了 82.1% 的错误传播减少，而输出级检测器的错误传播减少了 18.5%。组件消融证实每个检测模块对整体级联覆盖率做出了有意义的贡献。 CHARM 与人机交互监督框架集成，为生产代理 AI 部署提供完整的可靠性和治理堆栈。