BAGEN：LLM 代理商有预算意识吗？

尽管代理花费的资源越来越多，但如今代理成本大多仅在执行后进行衡量。预算感知代理 (BAGEN) 应将预算视为主动控制信号，而不是被动成本指标。我们首先系统地将预算估计定义为内部预算（来自代理计算）和外部预算（来自代理操作）。然后，我们将预算意识正式化为渐进区间估计：在计划的每一步，代理应该预测剩余预算的上限和下限，并在不太可能完成时发出警报。使用轨迹采样重放协议进行评分，我们发现在四个环境和五个前沿代理上存在一致的故障模式：（1）强大的代理不一定具有很强的预算意识，相关性 r=0.35。 (2) 前沿模型始终过于乐观，继续花费在不太可能成功的任务上，而不是尽早提醒用户。 (3) 预算感知信号是可操作且可训练的。提前停止可以在失败的轨迹上节省 28-64% 的词元，并且 SFT+RL 加强了提前停止和警报行为。 (4) 精确的区间校准仍然具有挑战性，SFT+RL 后区间覆盖率上限为 47%。项目页面：https://ragen-ai.github.io/bagen/