论文
SkillCorpus:巩固和评估现实世界 LLM 代理的开放技能生态系统
SkillCorpus: Consolidating and Evaluating the Open Skill Ecosystem for Real-World LLM Agents
摘要
代理技能(为 LLM 代理打包可重用程序知识的 SKILL 文件)是扩展代理功能的流行机制。公共存储库现在托管着大量且数量不断增加的工件,但这些工件支离破碎、冗余且质量参差不齐,其实践价值尚不清楚。一个核心问题仍然悬而未决,即如何将这个开源技能生态系统整合到一个可用的语料库中,以及它对现实世界代理任务的好处如何限制。我们推出 SkillCorpus,这是一个大规模聚合、策划、匹配和评估开放技能生态系统的框架。它通过多级管道将约 821,000 个爬取技能过滤为 96,401 个技能,这些技能按 16 类分类法和三个质量方面(实用性、鲁棒性、安全性)组织,并将它们与与任务相关技能相匹配的微调检索和选择堆栈配对。我们通过三个基准(SkillsBench、GDPVal、QwenClawBench)、两个工具和两个开放主干网进行端到端稳健性检查。集成 SkillCorpus 可以在所有三个基准测试中产生一致的收益,其中最大的是 SkillsBench(+7.5 个百分点)。操作分析追踪覆盖范围边界和Harness边界的增益。据我们所知,SkillCorpus 是第一个端到端的说明,说明精心策划的、检索服务的社区语料库何时改善了真实的代理任务,以及何时没有改善。数据集、模型和代码可在 https://github.com/EverMind-AI/SkillCorpus 上获取。