多智能体社会需要跨信任边界的交互运行框架

智能体社会由代表不同委托人的AI智能体构成，它们跨越信任边界自主协作，而委托人的目标可能仅部分一致。实验表明，即使智能体诚实且有能力，使用现有运行框架和消息机制也常难获得满意结果；存在故障或恶意的智能体还可利用通信漏洞阻碍协作、影响结果或追求其他有害目标。本文认为，除了管理私有上下文及与委托人通信的单体运行框架，还需要处理智能体之间交互的协作运行框架（social harness）。研究提出分层架构：预防某些类型的失败，使智能体能够在运行时识别无效消息，并支持事后调查及责任后果处理，同时指出实现这些能力的后续研究方向。