面向安全关键多无人机系统的 Agentic AI：挑战与机遇

多无人机系统越来越多地被用于搜索救援（SAR）和关键基础设施监测等安全关键任务。然而，现实世界的落地不仅受限于自主性表现，还受限于将 agentic 行为融入专业工作的困难：操作员必须在不确定性、时间压力和问责压力下理解、信任并治理自动化。本立场论文综合了两项进行中工作的抱负与经验教训：NAMUR 探索在搜救和消防场景中以 LLM 支持机器人控制，PERSIST 探索在关键基础设施场所进行监测与安保的持久无人机作业。我们主张将 agentic AI 视为一个社会技术设计问题，其中界面、监督机制和评估实践与算法同等关键。我们概述了一种以人为本、参与式、迭代的研究路径，旨在挖掘利益相关者需求，通过迭代原型塑造智能体能力，并为其他安全关键场景产出可迁移的概念验证系统与评估策略。