用于多 LLM 代理系统中上下文适应的基于图的目标反向传播

上下文适应通过迭代地修改任务反馈中的可调提示，无需修改模型权重，即可在基于 LLM 的系统中自动执行提示工程。将这种范式扩展到多 LLM 代理系统至关重要：现有方法存在贡献分配不准确且缺乏收敛保证的问题。我们提出基于 \textbf{G}raph 的 \textbf{T}arget \textbf{B}ack-\textbf{P}ropagation (GTBP)，这是一种建模为有向无环图的代理工作流程的上下文适应框架。 GTBP 通过工作流图向后传播本地目标输出，并使用目标输出差异来指导分阶段提示更新机制。理论上，我们表明 GTBP 的阶段式提示更新在迭代过程中变得稳定，并且功能足够强大的 LLM 优化器可以降低总体目标。根据经验，GTBP 在三个基准测试中始终优于强大的基线，同时保持可比较的计算成本。