用于减少幻觉的基于链的网格自适应重构

我们引入了 CAROL（基于链的格子自适应重配置），这是 大语言模型 中用于减少测试时幻觉的概率框架。 CAROL 没有依赖 词元级 不确定性，而是基于生成的响应和可信上下文之间的一致性定义了语义不确定性度量，从而在文本序列格上引入了字符串子模目标。该公式使幻觉缓解能够被视为马尔可夫链接受-拒绝过程，具有可证明的收敛性和近乎最优的保证，从而允许模型迭代地细化输出以实现语义一致性。通过在意义层面上运作，CAROL 将幻觉检测和缓解统一在一个框架内。问答和多智能体推理基准的实证结果表明，与基于可能性和检索增强的基准相比，CAROL 显着减少了幻觉，提高了可靠性和可解释性，同时保持了有竞争力的计算效率。