论文
ABSOL:与大语言模型协调的聚合贝叶斯子采样
ABSOL: Aggregated Bayesian Subsampling Orchestrated with LLMs
摘要
大型语言模型越来越多地用作结构化数据的自然语言接口,但当答案需要一致的证据调节、依赖性感知推理和不确定性估计时,它们仍然不可靠。贝叶斯网络提供了明确的概率推理层,但从数据中学习有用的结构在规模上仍然昂贵且脆弱。我们介绍 ABSOL,一种混合 LLM 引导的贝叶斯网络结构学习框架,使用 LLM 作为有界语义指南。在跨越 27 到 1041 个节点的五个离散 BN 基准测试中,ABSOL 是唯一能够在每个基准测试上生成可行图的评估方法,并且在使用 GPT-5.4 的每个大于 27 个节点的基准测试上实现了最高的 Edge F_1。四个 LLM 增强为统计骨干网提供了补充语义证据,与非 LLM 聚合骨干网相比,Edge F_1 平均提高了 +0.23。补充的事后细化实验表明,这些收益部分取决于限制大语言模型对最终结构的权威。总之,这些结果表明,当在基于统计的推理管道中用作有界指导时,语言衍生的语义知识可以显着改善可扩展的概率结构学习。 ABSOL 的代码可在 github.com/megagonlabs/absol-bn 上获取。