论文
M-SQE:多语言技能质量评估,以增强代理技能使用中的语言平等
M-SQE: Multilingual Skill Quality Estimation for Enhancing Language Equality in Agentic Skill Use
摘要
代理技能、可重用的程序文档将 LLM 代理扩展到参数记忆之外,已成为在现实世界任务中部署代理的重要界面。围绕此界面构建的社区维护的技能库正在迅速增长。然而,这个生态系统仍然以英语为中心:我们的审计发现斯瓦希里语和印地语等低资源语言没有语言内技能内容,因此检索通常会返回用与查询不同的语言编写的技能,从而降低了准确性和召回率。一个实用的解决方案是综合用于检索的语言技能,但质量可能不可靠,因此仅在这种情况下的相关性常常会出现相关但不可用的候选者。为了解决这个问题,我们提出了 M-SQE,一种检索后多语言技能质量评估框架,通过内在质量的理论视图和基于任务的效用的行动视图对候选人进行评分,统一为领域条件的最终分数。我们跨三个技能使用领域评估 M-SQE:一般任务、工具使用和文化任务。根据经验,我们构建了反映当今生态系统的三层候选技能池,其中 M-SQE 的任务成功率超过了三个不同检索器的现有基线平均值至少 +3.5 个点。特别是,M-SQE 对资源最低的语言提升最多(印地语+12.9pp,斯瓦希里语+5.6pp),并在所有六个文化区域中取得了强劲的表现,从而将代理技能的使用推向语言和文化平等。