论文

能力广告作为柠檬市场:异构代理网络的信任层

Capability Advertisement as a Market for Lemons: A Trust Layer for Heterogeneous Agent Networks

智能体系统智能体互操作协议

摘要

大语言模型 (LLM) 代理已开始相互委派工作。模型上下文协议 (MCP) 和 Agent2Agent 协议 (A2A) 等协议允许代理发布它可以做什么并让其他人调用它,并且此类代理的公共注册表已经出现。这些协议假设所宣传的功能是静态的、真实的事实。真正的智能体不是这些东西:它的能力是概率性的,随输入而变化,当底层模型更新时会发生漂移,而且,因为智能体本身就是一个语言模型,所以它可以完全自信地描述自己,并且不会出错。因此,呼叫者看到的是代理声称要做什么,而不是它能做什么,没有原则性的方法来区分可靠的提供者和流利的冒名顶替者。我们认为这些困难有一个共同原因:柠檬市场。当质量被隐藏、索赔价格低廉时,好坏的供应商就变得难以区分,诚实的可靠性就得不到回报,市场就会向最糟糕的参与者倾斜。经济学提供了三种补救措施:信号发送、筛选和声誉,但在当今的代理协议中均不存在。我们做出了四个贡献:(1)一种失败分类法,将“置信错误”命名为拜占庭错误的非对抗性、相关子类,是经典容错模型的错误模型; (2) 柠檬市场模型表明基于信仰的协议只承认低信任均衡; (3) 信任层,是 MCP 和 A2A 之上的一个与协议无关的薄腰,添加了概率能力描述符、筛选和声誉,并在维持过度声明的成本超过从中获得的收益时承认分离平衡; (4) 具有端到端放置参数的委托链的可靠性组合。该设计不需要模型重新训练,并且当其信任锚缺失或损坏时可以优雅地降级。