论文
StackingNet:跨独立AI基础模型的集体推理
StackingNet: Collective Inference Across Independent AI Foundation Models
摘要
建立在大型基础模型之上的人工智能已经改变了语言理解、视觉和推理,但这些系统仍然是孤立的,无法轻易共享其功能。整合这些独立基础模型的互补优势对于构建值得信赖的智能系统至关重要。尽管个体模型设计取得了快速进展,但还没有协调此类黑盒异构模型的既定方法。在这里,我们展示了可以通过称为 StackingNet 的元集成框架来实现协调,该框架利用集体智慧的原理在推理过程中结合模型预测。 StackingNet 提高了准确性,减少了偏差,实现了可靠性排名,并识别或修剪了降低性能的模型,所有操作都无需访问内部参数或训练数据。在涉及语言理解、视觉估计和学术论文评分的任务中,与单个模型和经典集成模型相比,StackingNet 持续提高了准确性、鲁棒性和公平性。通过将多样性从不一致的根源转变为协作,StackingNet 为协调人工智能奠定了实践基础,这表明进步不仅可能来自更大的单一模型,而且可能来自许多专业模型之间的原则性合作。
