具有跨学科泛化能力的数值智能基础模型

智能通常被理解为获取并运用知识、适应陌生情境以及解决新问题的能力。大语言模型通过从文本上下文推断任务相关知识并将其应用于新任务来展现这种能力。然而，智能不必局限于语言。对于科学与社会系统，我们需要能够从数值上下文中获取并运用知识的模型——我们将这种能力称为数值智能。本文提出统一上下文算子网络（UNICON），这是一个在各学科中展现数值智能的基础模型。UNICON以来自某一系统的基于图的样本作为上下文，推断这些样本共享的预测关系，并将其应用于来自同一系统的查询。在各类科学与社会系统上——包括来自训练中缺席学科的系统——同一模型无需再训练即可接近专门模型的性能。将UNICON与语言模型智能体相结合以执行上下文集成学习（CEL）可带来进一步提升，使其在训练期间未见过的学科上超越最先进的专门模型。我们进一步表明，训练语料的多样性可提升对未见学科的泛化能力。这些结果共同确立了UNICON作为数值智能基础模型的地位，并将其定位为更广泛人工智能生态的基石。