论文
ContextBudget:面向长程搜索智能体的预算感知上下文管理
ContextBudget: Budget-Aware Context Management for Long-Horizon Search Agents
摘要
基于LLM的智能体在长程推理上展现出强大潜力,但其上下文规模受部署因素(如内存、延迟与成本)限制,形成受限的上下文预算。随着交互历史增长,这带来在保留过往信息与不超出上下文上限之间的权衡。为应对这一挑战,我们提出预算感知上下文管理(BACM),将上下文管理形式化为带上下文预算约束的序列决策问题。它使智能体能够在纳入新观察前评估可用预算,并决定何时以及压缩多少交互历史。我们进一步开发BACM-RL,一种端到端的基于课程学习的强化学习方法,可在不同上下文预算下学习压缩策略。在组合式多目标问答与长程网页浏览基准上的实验表明,BACM-RL在不同模型规模与任务复杂度下均持续优于先前方法,在高复杂度设置下相对强基线取得超过$1.6\times$的增益,且在预算缩小时仍保持显著优势,而大多数方法此时性能呈下行趋势。
