论文
FastContext:针对 编码智能体 的训练高效存储库资源管理器
FastContext: Training Efficient Repository Explorer for Coding Agents
摘要
大语言模型 (LLM) 编码智能体 在软件工程任务上取得了很好的成果,但存储库探索仍然是一个主要瓶颈:查找相关代码会消耗大量的 词元预算 并用不相关的片段污染代理的上下文。在大多数代理中,相同的模型会探索存储库并解决任务,从而在求解器的历史记录中留下探索性读取和搜索。我们提出了 FastContext,一个专用的探索子代理,它将存储库探索与解决分开。 FastContext 根据需要调用,发出并行工具调用,并返回简洁的文件路径和行范围作为焦点上下文。 FastContext 由跨越 4B--30B 参数的专业探索模型提供支持。我们从强大的参考模型轨迹中引导它们,并通过基于任务的奖励来完善它们,以进行广泛的首轮搜索、多轮证据收集和精确的引文生成。在 SWE-bench Multilingual、SWE-bench Pro 和 SWE-QA 中,将 FastContext 集成到 Mini-SWE-Agent 中可将端到端解析率提高高达 5.5%,同时将编码代理词元消耗降低高达 60%,且开销很小。这些结果表明,存储库探索可以与求解分开,并通过专门的模型进行有效处理。代码和数据:https://github.com/microsoft/fastcontext