论文
ToolWeave:复杂多轮工具调用对话的结构化综合
ToolWeave: Structured Synthesis of Complex Multi-Turn Tool-Calling Dialogues
摘要
多轮工具调用对于 LLM 作为自主代理发挥作用至关重要,但综合这些功能所需的训练数据仍然是一个基本挑战。现有的合成数据生成管道经常产生不切实际的对话,原因有二:它们链接的工具仅在表面上兼容,而不是与有意义的用户任务保持一致;它们一次性生成对话,这通常会引入既不是由用户提供也不是由先前的工具调用产生的参数。这些问题还导致多步骤工具交互的代表性严重不足。我们介绍 ToolWeave,一个用于合成真实的多轮工具调用对话的结构化框架。 ToolWeave 通过构建具有内置依赖项的工具来支持实际的多步骤工作流程(或工具序列),并根据与用户目标的一致性来过滤工作流程。它通过使用明确跟踪参数来源的细粒度规划阶段来减少参数幻觉。因此,ToolWeave 生成的合成对话包含更多的多步骤工具交互 (45%),并且参数和工具名称中的幻觉更少。因此,在 ToolWeave 上进行微调的 LLM 在三个公共基准测试中始终优于在先前数据集上进行微调的结果。值得注意的是,在 ToolWeave 上进行微调的 Llama-3.1-70B 在 BFCL-V3 多圈上实现了 39.75%,而在 SOTA ToolFlow 数据上进行微调时达到了 23.50%。