通过经验知识集成和激活突破 LLM 工具调用的极限

大语言模型（LLM）依靠工具作为自主代理，但由于工具相关知识不足和知识激活不充分，经常导致多步执行失败。因此，我们对知识如何影响工具使用绩效进行系统研究，涵盖知识获取、激活和内化阶段。在知识获取阶段，我们获取并评估各种形式的经验知识，我们的分析表明，简单的实例级知识已经可以提供强大而可靠的收益，而抽象意图级知识提供的好处有限。在推理时，为了激活知识，我们发现促使 LLM 扩大推理深度会产生收益递减，而通过并行采样和聚合来扩大推理宽度更有效地激活潜在的经验知识。在训练时，对于知识内化，具有知识增强数据的 后训练 进一步提高了性能，强化学习优于监督 微调。基于这些见解，我们提出了知识增强工具执行（KATE），这是一种知识增强工具执行框架，它将经验知识与推理宽度扩展推理和知识感知训练相结合。 BFCL-V3 和 AppWorld 上的实验表明，在跨模型规模的强大基线上取得了一致且实质性的改进。我们的代码可在 https://github.com/hypasd-art/KATE 获取。