论文
SimCRAFT:通过合成轨迹与上下文检索增强微调蒸馏遥感智能体
SimCRAFT: Distilling Remote Sensing Agents via Synthetic Trajectories and Contextual Retrieval-Augmented Fine-Tuning
摘要
地球观测数据量和多样性前所未有的激增暴露了传统手动工作流程的关键瓶颈,从而促进了遥感(RS)代理的出现。然而,这些先进代理的实际部署由于严重依赖大规模通用LLM而受到严重阻碍,这些LLM缺乏深厚的领域专业知识,并对基础设施提出了过高的要求。为了解决这个问题,我们提出了 SimCRAFT,这是一个与模型无关的框架,可将复杂的 RS 编排功能提炼为紧凑的 7B 规模模型。为了解决数据稀缺问题,我们首先将多代理合成引擎与模拟执行引擎配对,以检查模式正确性、工具间依赖性以及传感器/工具兼容性,从而生成 SimRS-14k,这是一个大规模的、经过约束验证的工作流规划语料库。其次,我们提出了上下文检索增强微调(CRAFT),通过将检索到的标准操作程序适应噪声鲁棒目标下的新查询,对模型进行类比推理的微调,将 RAFT 推广到多步骤 RS 工作流程规划,而无需机械复制。大量实验表明,SimCRAFT-7B 的性能显着优于开放权 LLM,可与先进的闭源模型和专门的 RS 代理相媲美,同时可在三个 7B 主干上进行复制。这项工作为轻量级 RS 智能提供了具有竞争力的开放权重基线,从而在资源受限或资源节约的条件下实现高效的自主部署。
