论文
GenesisFunc:多代理数据生成,用于准确且可泛化的函数调用
GenesisFunc: Multi-Agent Data Generation for Accurate and Generalizable Function-Calling
摘要
大语言模型(LLM)通过函数调用(FC)扩展其功能,这依赖于高质量、多样性和场景覆盖广泛的训练数据。然而,获取和注释真实的函数调用数据具有挑战性,而来自现有管道的合成数据通常面临 API 不可靠、工具可扩展性有限、多样性不足和质量控制薄弱的问题。为了解决这些问题,我们提出了 GenesisFunc,一个用于生成 FC 训练数据的自动化管道。从广泛使用的公共基准中的可靠工具开始,我们的 GenesisFunc 采用多代理框架来支持对话生成系统,该系统可以生成跨越不同场景的对话,同时在整个过程中保持多样性和质量。通过多阶段评估系统进一步增强了数据的准确性。我们在合成数据集上对 8B LLM 进行了微调,并通过大量实验表明,它在域内 FC 性能和域外泛化方面优于类似大小的开源模型,同时达到了与一些最新的基于 API 的模型相当的 FC 功能。此外,我们的方法展示了跨下游工具有效扩展的强大潜力,强调了其现实世界的适用性。