通过对话调整世界模型来体现多智能体协调

实体主体之间的有效协作需要的不仅仅是在共享环境中行动；它要求基于每个代理对世界不断发展的理解的沟通。当智能体只能部分观察周围环境时，没有沟通的协调是很困难的，但原则上，沟通可以通过允许智能体共享观察结果并调整他们的世界模型来弥合这一差距。在这项工作中，我们检查基于 LLM 的具体代理是否真正实现了通信能力。我们通过自然语言对话通道扩展了 PARTNR（协作家庭机器人的基准），使两个具有部分可观察性的代理能够在任务执行期间进行通信。为了评估对话是否会导致真正的世界模型对齐而不是表面协调，我们提出了一个用于衡量在每个智能体世界图上定义的世界模型对齐的框架：观察收敛（私人世界模型是否随着时间的推移而对齐？），信息新颖性（消息是否传达了合作伙伴所缺乏的东西？），以及信念敏感的消息传递（智能体是否对他们的合作伙伴所知道的进行建模？）。我们对三个 LLM 进行的实验表明，对话可以将行动冲突减少 40 到 83 个百分点，但相对于沉默协调而言，会降低任务的成功率。使用我们的指标，我们描述了表面协调与真正的世界模式一致性之间的差距，并确定了当前模型在这个范围内的位置。项目网站：https://uiuc-conversational-ai-lab.github.io/partnr-dial-wmd/