论文
智能体技能框架:工业环境中小语言模型潜力的展望
Agent Skill Framework: Perspectives on the Potential of Small Language Models in Industrial Environments
摘要
Agent Skill 框架现已得到 GitHub Copilot、LangChain 和 OpenAI 等主要参与者的广泛官方支持,通过改进上下文工程、减少幻觉和提高任务准确性,在专有模型上表现尤其出色。根据这些观察结果,进行了一项调查,以确定代理技能范式是否提供与小语言模型 (SLM) 类似的好处。这个问题在工业场景中很重要,在工业场景中,由于数据安全和预算限制的要求,持续依赖公共 API 是不可行的,并且 SLM 在高度定制的场景中通常表现出有限的通用性。这项工作介绍了代理技能过程的正式数学定义,然后对跨多个用例的不同大小的语言模型进行系统评估。该评估包括两项开源任务和一个现实世界的保险索赔数据集。结果表明,小型模型很难选择可靠的技能,而中等大小的 SLM(大约 12B - 30B)参数)可以从代理技能方法中受益匪浅。此外,大约 80B 参数的代码专用变体实现了与闭源基线相当的性能,同时提高了 GPU 效率。总的来说,这些发现提供了该框架的功能和约束的全面而细致的描述,同时为在以 SLM 为中心的环境中有效部署座席技能提供了可操作的见解。