论文

锚点:大语言模型 中采用分层编排进行可靠概率推理的归纳网络构建

ANCHOR: Abductive Network Construction with Hierarchical Orchestration for Reliable Probability Inference in Large Language Models

模型推理推理策略与问题分解

摘要

在不完整信息下进行大规模决策的一个核心挑战是估计可靠的概率。最近的方法使用 大语言模型 (LLM) 生成解释性因素和粗粒度概率估计,然后通过因子组合的朴素贝叶斯模型进行细化。然而,稀疏因子空间通常会产生“未知”的预测,而扩展因子会增加噪声和虚假相关性,削弱条件独立性并降低可靠性。为了解决这些限制,我们提出 \textsc{Anchor},一个分层因子空间上的聚合贝叶斯推理框架。它通过迭代生成和聚类构建密集因子层次结构,通过层次检索和细化映射上下文,并使用因果贝叶斯网络增强朴素贝叶斯以对潜在因子依赖性进行建模。实验表明,\textsc{Anchor} 显着减少了“未知”预测,并比直接 LLM 基线产生更可靠的概率估计,实现了最先进的性能,同时显着减少了时间和词元开销。