多用户 大语言模型 代理

基于 大语言模型 (LLM) 和 LLM 的代理越来越多地部署为规划和决策制定中的助手，但大多数现有系统都针对单一主体交互范例进行了隐式优化，其中该模型旨在满足一个主导用户的目标，该用户的指令被视为唯一的权威和效用来源。然而，随着它们集成到团队工作流程和组织工具中，它们越来越需要同时为多个用户提供服务，每个用户都有不同的角色、偏好和权限级别，导致多用户、多主体设置不可避免地存在冲突、信息不对称和隐私限制。在这项工作中，我们首次对多用户 LLM 代理进行系统研究。我们首先将与 LLM 代理的多用户交互形式化为多主体决策问题，其中单个代理必须考虑具有潜在利益冲突和相关挑战的多个用户。然后，我们引入统一的多用户交互协议，并设计了三个有针对性的压力测试场景，以评估当前 LLM 在指令遵循、隐私保护和协调方面的能力。我们的结果揭示了系统性差距：前沿 LLM 经常无法在用户目标冲突的情况下保持稳定的优先级，在多轮交互中表现出越来越多的隐私侵犯，并且在协调需要迭代信息收集时遇到效率瓶颈。