面向基于LLM的多智能体协调的自适应心智理论

心智理论（ToM）指推理他人心理状态的能力，高阶ToM则需考虑他人同样拥有自己的ToM。为大语言模型（LLM）驱动的智能体配备ToM，长期以来被认为能提升其在多智能体协作任务中的协调能力。然而，我们发现ToM阶数错位——智能体之间ToM推理深度的不匹配——会导致对他人的推理不足或过度，从而损害其协作。为解决该问题，我们设计了自适应ToM（A-ToM）智能体，它能与伙伴在ToM阶数上对齐。该智能体基于先前交互估计伙伴可能的ToM阶数，并利用这一估计预测伙伴的行动，从而促进行为协调。我们在四个多智能体协调任务上进行实证评估：重复矩阵博弈、两个网格导航任务和一个Overcooked任务。结果验证了我们关于ToM对齐的发现，并证明了A-ToM智能体的有效性。此外，我们还讨论了A-ToM向非LLM智能体的可推广性，以及何种情况会削弱ToM对齐的重要性。