论文

BlindToChange:评测Agent能否主动发现未被提及的现实变化

BlindToChange: AI Agents Can Find Changes When Asked But Do They Look When Needed?

智能体系统上下文与知识应用与实践模型评测知识获取与更新Agent任务评测基准与评测资源搜索

摘要

鉴于人工智能代理可以广泛而深入地实时搜索网络,人们很容易得出这样的结论:它们的输出已考虑近期现实事件。我们证明这个结论在实践中并不成立。虽然代理可以搜索并轻松找到最近的更改,但他们响应的正确性取决于他们是否搜索以及搜索的内容。流行的 Agentic 搜索基准(例如 BrowseComp)无法暴露故障,其中代理无法识别自己应该验证的假设,因为这些基准明确说明了需要找到的内容。相比之下,许多用户请求仅说明最终信息需求(例如旅行行程),让代理发现相关变化(例如博物馆暂时关闭)并考虑其后果。为了突出这些差距,我们引入了 BlindToChange,这是一个衡量代理是否主动发现影响其响应的近期事件的基准。我们的基准包括提出建议的请求,其中明显的候选者由于最近的现实世界事件而不再适用。这些事件是从 Wikidata 自动提取的,允许 BlindToChange 定期刷新。引人注目的是,我们发现,与直接询问最近发生的事件相比,没有明确提及最近的事件时,系统性能存在很大差距,即使在较高的推理能力下,系统性能也有高达27.5个百分点的差距。通过分析搜索轨迹,我们了解到超过一半的失败可归因于代理不直接搜索以验证相关事实是否已更改。我们的基准测试强调并跟踪了一个新的进展轴,其中系统考虑了用户请求中未明确提及的最新信息。

BlindToChange:评测Agent能否主动发现未被提及的现实变化:论文配图
图 1:针对同一底层更新(贝叶挂毯博物馆关闭至 2027 年 10 月)的两个探测器,针对启用了搜索的 Gemini-3.1-pro 进行。在 (a) 请求中指定了博物馆并询问其状态。模型发现博物馆已关闭并调整其推荐。在 (b) 中,请求要求提供行程,但从未提及博物馆。模型建议将其作为下午停靠点,并且不会检查其是否开放。直接探测表明模型可以找到事实。间接探测评估它是否自己发现了变化。右图显示了直接和间接探头精度之间的差距。