论文
小推理模型是函数调用中的指令遵循者
Small Reasoning Models are Instruction Followers in Function Calling
摘要
函数调用是智能体化大语言模型(LLM)的核心能力。现有研究聚焦于通过微调、强化学习(RL)与多智能体框架提升LLM函数调用准确率,尤其是针对原生函数调用LLM。本工作表明,LLM在指令遵循语境(即标准的用户—助手交互)中执行函数调用,能取得优于工具调用语境的准确率。我们提出IFFC(Instruction-Followed Function Calling),一种新颖框架,将函数调用逻辑从主LLM中解耦,委派给一个在指令遵循范式下工作的专用较小模型。我们的方法在准确率上持续优于原生函数调用(NFC)与基于提示的函数调用(PFC)两类基线,在面向推理的LLM上收益尤为显著。此外,我们证明IFFC在激进量化下仍保持稳健性能,可在几乎不损失准确率的情况下实现高效的端侧部署。这项工作为边缘计算场景下可靠且资源高效的函数调用确立了新范式。
