论文
当重新规划成为瓶颈时:针对实体代理的预算重新规划
When Replanning Becomes the Bottleneck: Budgeted Replanning for Embodied Agents
摘要
体现的代理经常重新计划以从执行漂移、部分可观察性和协调风险中恢复,但每个基于 LLM 的重新计划调用都可以消耗随着时间的推移和跨代理而增长的累积文本上下文。一旦这种上下文变大,重新计划延迟就会产生严重的尾部,并且即使任务成功率仍然很高,也可能会错过实时截止日期,这是一种很难仅从平均延迟或成功来检测的故障模式。我们提出了 BRACE,这是一种控制器,它通过决定是否重新规划、选择重新规划模式以及分配显式 词元预算 和延迟服务级别目标 (SLO),同时考虑可选的效率模块,将重新规划制定为预算控制循环。作为可重用组件,我们引入了 E-RECAP,这是一种成本感知的渐进式词元修剪方法,可预测词元效用并修剪 Transformer 层上的重新规划上下文,同时保留关键的头部和尾部词元。在 Meta Habitat、RoboFactory 和 AirSim 中,在任务成功率已经饱和的环境中,带有 E-RECAP 的 BRACE 将重新计划调用词元计数减少了 62-92%,并将 SLO 违规率从 85.5-100.0% 减少到 4.7-50.0%。在开环、冻结计划和 No BRACE 都失败的更困难的 RoboFactory 设置中,BRACE + E-RECAP 达到了 80.0% 的成功率,但 SLO 违规率为 4.6%,这表明尾部感知的每次调用预算在各个具体平台上都是有效的。