论文

图书馆员万岁!节能多代理软件工程系统的持久搜索子代理

Long Live the Librarian! A Persistent Search Sub-Agent for Energy-Efficient Multi-Agent Software Engineering Systems

智能体系统Agent 协作

摘要

多代理系统 (MAS) 具有相当先进的自主软件工程 (SWE),但其不断增长的推理能量需求引发了可持续性问题。在本文中,我们证明这种成本集中在一个被忽视的来源:跨代理生成的冗余输出词元。两项实证研究结果证实了这一说法。首先,我们对 MAS 的每个词元能量归因揭示了明显的不对称性:输出词元消耗的能量是输入或缓存词元的 30 到 1,000 倍。其次,MAS 会夸大每集的输出,因为代理会反复重新探索重叠的存储库区域。为了解决这种低效率问题,我们提出了 Librarian,这是一个持久搜索子代理,可以跟踪存储库搜索历史并抑制跨代理的冗余探索操作。通过返回对文件区域的简短引用而不是完整的文件摘录,Librarian 进一步减少了输出词元量。在 SWE-Bench Verified 和 SWE-Bench-Live 上,Librarian 将现有多代理 SWE 系统的每集 GPU 能耗降低了 11% 至 30%,同时保持任务性能。我们的代码可在 https://github.com/ml-postech/Librarian 获取。