AI研究偏好模型

AI研究Agent（AIRA）如今能够将机器学习实验从提案推进到实现与评估。然而前沿任务上的进展受到评估成本的制约，一次评估可能消耗数天的GPU时间。当Agent能提出的候选方案远多于它能负担运行的数量时，进展取决于其研究偏好：如何在众多候选之间分配固定的执行预算。我们引入AI研究偏好模型（RPM），在不付出全部运行成本的情况下预测哪个候选方案最有希望。我们基于冻结的预训练语言模型构建两种变体的RPM：仅推理模型，对候选计划、代码和先前已执行的解进行推理；以及Agentic模型，额外运行小规模先导实验。将两者集成到AIRA-dojo研究Agent并在机器学习研究基准AIRS-Bench上评估，两个变体分别把平均归一化分数从0.684提高到0.711和0.729。两种变体在大约15小时内达到无引导Agent24小时的性能，使用不到其执行预算的三分之二，其中表现最好的RPM还在两个AIRS-Bench任务上取得新的最先进结果。