论文

面向地理空间数据检索的风险感知LLM智能体

Risk-Aware LLM Agents for Geospatial Data Retrieval: Design and Preliminary Adversarial Evaluation

智能体系统Agent 动作执行与治理Agent Harness

摘要

我们提出了一个大语言模型驱动的框架,用于使用自然语言查询从基于云的地理空间目录中检索遥感数据。该系统将用户意图转换为结构化 API 调用,从而能够高效访问卫星图像和环境数据集。该架构集成了三个代理:用于安全和策略执行的 Guardrail、用于意图解释的 General-QA 以及用于生成模式感知 API 调用的 Recommender-Analyst。这种协调的设计确保与外部数据服务的可靠、语义一致的交互。该模块化框架可通过 API 模式替换跨平台移植,并支持环境监测、灾害响应和气候分析等应用。它在用户意图和地理空间基础设施之间建立了一个可扩展的接口,从而实现了简化和自动化的地球观测工作流程。对抗性多轮设置下的初步实验表明,提示级安全指令提高了鲁棒性,尽管在 API 操作场景中仍然存在罕见的高影响力故障,并强调需要平衡安全性、可用性和成本效率的自适应系统级防御,这激励了我们的拦截级 Guardrail 代理的使用。

面向地理空间数据检索的风险感知LLM智能体:论文配图
图 2:各种 Guardrail 级别的攻击分数分布:我们基于 NeMo 的代理 Guardrail 能够可靠地拦截所有攻击。 Naive Guard 使用系统提示级基于指令的安全约束,其性能优于没有此类指令的设置。