PAC-BENCH：隐私约束下多智能体协作的评估

摘要

我们正进入这样一个时代：个人和组织越来越多地部署专属AI智能体，并与其他智能体交互和协作。然而，隐私约束下多智能体协作的动态机制仍知之甚少。在本工作中，我们提出PAC-BENCH，一个用于系统性评估隐私约束下多智能体协作的基准。在PAC-BENCH上的实验表明，隐私约束会显著降低协作性能，并使结果更多取决于发起方智能体而非伙伴方。进一步分析揭示，这种退化由反复出现的协调失灵所驱动，包括早期阶段的隐私违规、过度保守的抽象化以及隐私诱发的幻觉。综合来看，我们的发现将隐私感知的多智能体协作确定为一个独立且尚未解决的挑战，需要超越现有智能体能力的新型协调机制。

PAC-BENCH：隐私约束下多智能体协作的评估：论文配图 — 图 1：不同代理所有权下隐私受限的多代理协作图示。私人机构必须协调以实现共同目标，同时掩盖敏感信息。 (a) 每个代理都保留私人记忆和限制（例如，不透露另一家公司的会议时间表）。 (b) 在协作期间，代理必须传达可行的建议（例如日程安排），而不能泄露私人详细信息。