论文

MaD Physics:评估物理环境中受约束的信息获取

MaD Physics: Evaluating information seeking under constraints in physical environments

智能体系统Agent任务评测

摘要

科学发现本质上是一个资源受限的过程,需要在物理与成本约束下权衡测量的质量与数量。测量通过揭示新现象来驱动科学进程、增进我们的理解。现有的科学发现智能体评测基准要么聚焦静态的基于知识的推理,要么聚焦无约束的实验设计任务,未能刻画在约束下进行测量与规划的能力。为弥合这一空白,我们提出Measuring and Discovering Physics(MaD Physics),一个评估智能体在测量质量与数量受限条件下做出有信息量的测量与结论之能力的基准。该基准由三个环境组成,每个环境基于一条不同的物理定律。为缓解既有知识带来的污染,MaD Physics修改了物理定律。在每次试验中,智能体对系统进行测量直至耗尽分配的预算,随后必须推断背后的物理定律,以预测系统未来的状态。MaD Physics评估科学智能体的两项基本能力:从数据推断模型与在约束下规划。我们还展示了如何利用MaD Physics评估多模态与上下文学习等其他能力。我们使用四个Gemini模型(2.5 Flash Lite、2.5 Flash、2.5 Pro与3 Flash)在MaD Physics上测试,发现其在结构化探索与数据收集能力上的不足,并指出改进其科学推理的方向。

MaD Physics:评估物理环境中受约束的信息获取:论文配图
图 1:MaD 物理由两个阶段组成:测量(顶部)和预测(底部)。在测量阶段,智能体与环境交互进行观察,每次观察都会产生成本。在预测阶段,代理必须使用在测量阶段收集的观察结果来预测系统在查询时间的状态。