论文
盲人策展人:有偏裁判如何静默关闭自进化智能体的技能淘汰
The Blind Curator: How a Biased Judge Silently Disables Skill Retirement in Self-Evolving Agents
摘要
自进化智能体通过观察技能失败来淘汰坏技能——那么当裁判看不到失败时会发生什么?技能淘汰是防止增长的技能库漂移到无技能基线以下的结构约束,但其保证假设无偏奖励——而免参考任务所需的LLM裁判并非如此。我们显示有偏裁判不只是加噪:它静默关闭策展人。我们以腐蚀奖励分析使其精确,再在免参考的报告撰写试验台(配代码生成交叉检查)上做行为研究——在确定性奖励之上注入腐蚀以隔离因果通道。对称噪声不损淘汰,但假通过偏置(失败滑过为通过)会关闭基于贡献的淘汰——越过尖锐阈值(此处假通过率0.45),任何数据量都无法跨越。把真实淘汰与容量驱逐的搅动分开显示:该机制失效是普遍的——跨领域与失败率成立,仅近零假通过的验证器式评分者幸免。下游结果则是regime依赖的:只有同一腐蚀也饿死技能合成时评估质量才退化,否则保持稳定——被关闭的策展人是静默的,不显于任何聚合指标。贡献是行为安全结果而非性能结果。廉价的缺陷注入审计让运营者在部署前知道其裁判位于阈值哪一侧。
