论文
SkillSpec:通过表示专业化实现共识门控Agent技能进化
SkillSpec: Consensus-Gated Agent Skill Evolution via Representation Specialization
摘要
自然语言技能是文本程序记忆,大语言模型(LLM)智能体通过它保留可重用的任务知识,而无需更新模型权重。现有方法通常将技能视为静态工件或使用聚合验证分数作为反馈进行优化的整体文档。然而,将技能表示为整体文档限制了对其文本内容的优化,而没有对检索和执行程序知识的结构进行显式建模。我们确定了学习要保留哪些知识和确定如何组织知识之间的一个关键区别:文本更新应首先通过执行证据进行验证,然后应根据其程序依赖性和检索要求来构建保留的知识。为此,我们引入了 SkillSpec,这是一个包含共识门控进化和表示专业化的两阶段框架。在共识门控阶段,互补的编辑意图会产生完整的候选人技能。仅当配对评估达成共识时才会提交更新,需要在每次重复评估中进行充分的整体改进和非负总配对增益。在专业化阶段,从完整的优化轨迹(包括接受和拒绝的候选者)中得出的过程和冗余敏感性信号,指导平面、图形或混合表示的选择。在六个基准和三个目标语言模型中,SkillSpec 将三个模型的平均成功率比 SkillOpt 提高了 6.89%。这些结果表明,可靠的技能进化和表示专业化解决了互补的目标:决定保留哪些知识以及如何构建它以进行推理。