论文
CHAL:层级化智能体语言议会
CHAL: Council of Hierarchical Agentic Language
摘要
多智能体辩论已成为改进LLM在真值任务上推理的一种有前景的方法,但当前方法面临若干结构性局限:辩论倾向于在信念轨迹上诱发鞅(martingale)特性,多数投票贡献了大部分观测到的收益,且LLM在多轮间表现出置信度升级而非校准。我们认为辩论以及辩证系统的真正价值不在于真值任务,而在于可废止(defeasible)领域——其中每个立场原则上都可以被更好的推理所推翻。我们提出层级化智能体语言议会(Council of Hierarchical Agentic Language,CHAL),一个将可废止论证作为信念优化引擎的多智能体辩证框架。每个智能体维护一个CHAL信念模式(CHAL Belief Schema,CBS),这是一种具有贝叶斯启发式架构的图结构信念表示,通过将信念论题的强度用作可微目标,借助梯度信息驱动的动态机制促进信念修正。涵盖认识论、逻辑学和伦理学的元认知价值系统被提升为可配置的超参数,用于控制智能体的推理和裁决结果。我们提供了一系列消融实验,展示出系统性且可解释的效应:裁决者的价值系统决定了辩论在潜在信念空间中的整体轨迹,议会多样性为所有参与者精炼信念,且该框架能在广泛领域中泛化。据我们所知,CHAL是首个将多智能体辩论视为可废止领域上结构化信念优化的框架。此外,它产生的可审计信念制品为可废止论证的专门评估套件奠定了基础,并对构建推理和价值承诺透明、对齐且可受人类监督的AI系统具有更广泛的意义。
