论文

增强代理任务绩效的补充剂生成训练

Supplement Generation Training for Enhancing Agentic Task Performance

上下文与知识上下文工程

摘要

由于计算成本高、迭代周期长以及随着新模型的不断发布而快速过时,为代理任务训练大型基础模型变得越来越不切实际。我们提出了补充生成训练(SGT),一种更高效、更可持续的策略,而不是针对每个新任务或领域的 后训练 大规模模型。 SGT 训练较小的 LLM 来生成有用的补充文本,当附加到原始输入时,可以帮助较大的 LLM 更有效地解决任务。这些轻量级模型可以根据任务要求动态调整补充,从而在不修改底层大型模型的情况下提高性能。这种方法将特定于任务的优化与大型基础模型分离,并能够在实际应用中更灵活、更经济高效地部署由 LLM 驱动的代理。