论文

StackingNet:跨独立AI基础模型的集体推理

StackingNet: Collective Inference Across Independent AI Foundation Models

模型推理推理验证与自校正

摘要

建立在大型基础模型之上的人工智能已经改变了语言理解、视觉和推理,但这些系统仍然是孤立的,无法轻易共享其功能。整合这些独立基础模型的互补优势对于构建值得信赖的智能系统至关重要。尽管个体模型设计取得了快速进展,但还没有协调此类黑盒异构模型的既定方法。在这里,我们展示了可以通过称为 StackingNet 的元集成框架来实现协调,该框架利用集体智慧的原理在推理过程中结合模型预测。 StackingNet 提高了准确性,减少了偏差,实现了可靠性排名,并识别或修剪了降低性能的模型,所有操作都无需访问内部参数或训练数据。在涉及语言理解、视觉估计和学术论文评分的任务中,与单个模型和经典集成模型相比,StackingNet 持续提高了准确性、鲁棒性和公平性。通过将多样性从不一致的根源转变为协作,StackingNet 为协调人工智能奠定了实践基础,这表明进步不仅可能来自更大的单一模型,而且可能来自许多专业模型之间的原则性合作。

StackingNet:跨独立AI基础模型的集体推理
图1:独立智能体系统通过 StackingNet 进行的集体推理。a,跨生物系统与人工系统的集体复杂度与认知复杂度之间的关系。b,来自多个独立基础模型在多种任务类型上的聚合推理。c,StackingNet 架构及其可学习参数。每个基础模型被视为一个独立的黑盒系统,其输出通过可训练的元学习器组合起来,用于回归或分类。d,StackingNet 的功能效用。该框架组合模型输出、减少个体偏差、在有监督或无监督情况下估计可靠性,并过滤不可靠或对抗性的模型。可靠性分数基于公开可用基准 LMarena(https://lmarena.ai/leaderboard)计算,数据获取于 2025 年 10 月 5 日。所有分数仅作展示之用,并不反映实际模型性能。