SkVM：重新审视语言 VM 以获取跨异构 LLM 和工具的技能

LLM 代理越来越多地采用技能作为可重用的组合单元。虽然技能在不同的代理平台之间共享，但当前的系统将它们视为原始上下文，导致相同的技能对于不同的代理来说表现不一致。这种脆弱性损害了技能的可移植性和执行效率。为了应对这一挑战，我们分析了 118,000 项技能，并从传统编译器设计中汲取灵感。我们将技能视为代码，将 LLM 视为异构处理器。为了使可移植性具有可操作性，我们将技能的要求分解为一组原始功能，并测量每个模型Harness对对它们的支持程度。基于这些功能配置文件，我们提出了 SkVM，这是一种专为可移植且高效的技能执行而设计的编译和运行时系统。在编译时，SkVM 执行基于能力的编译、环境绑定和并发提取。在运行时，SkVM 应用 JIT 代码固化和自适应重新编译来优化性能。我们通过八个不同规模的 LLM 和三个代理工具来评估 SkVM，涵盖 SkillsBench 和代表性技能任务。结果表明，SkVM 显着提高了不同模型和环境下的任务完成率，同时减少了高达 40% 的词元消耗。在性能方面，SkVM 通过增强的并行性实现了高达 3.2 倍的加速，并通过代码固化将延迟降低了 19-50 倍。