论文

LifePlanner:用社交媒体数据评估LLM智能体的地理空间规划

LifePlanner: Evaluating LLM Agents for Geo-spatial Planning with Social Media Data

智能体系统智能体互操作协议Agent任务评测MCP

摘要

地理空间规划(如行程设计)是LLM智能体的现实试验场,因为它要求有根据的工具使用、嘈杂的证据检索和多约束推理。然而,大多数基准只提供干净的地理空间数据和工具,缺少人们日常规划所使用的开放式社交信号。我们提出LifePlanner,一个用大规模本地社交媒体帖子丰富地图数据的基准,并通过MCP工具集提供访问。LifePlanner提供覆盖四类任务和三个难度级别的评估套件。实验显示,前沿LLM在简单检索上表现良好,但在复杂规划上急剧退化,通过率降至40.2%。结果表明,失败主要源于从如此大规模多模态数据库中证据获取不完整、工具使用不精确以及约束整合薄弱,而非模型规模或推理长度,这提示未来的进展需要有效的接地规划而非单纯扩大规模。

LifePlanner:用社交媒体数据评估LLM智能体的地理空间规划:论文配图
图1:LifePlanner概览。LifePlanner由两个主要组件构成:环境与评估协议。环境通过MCP服务器提供地理空间与社交媒体证据,评估则同时考察LLM智能体的工具使用过程与最终输出。