论文
在说话之前了解你:多轮对话中 LLM 个性化的用户状态建模
Know You Before You Speak: User-State Modeling for LLM Personalization in Multi-Turn Conversation
摘要
个性化对话需要的不仅仅是回忆明确的用户历史:系统还需要推断通过交互而演变的隐藏用户状态并形成适当的响应策略。现有的基于内存和配置文件的方法主要重用可观察的用户信息,为用户状态动态建模或根据用户状态如何塑造未来用户状态选择操作提供有限的支持。我们提出了 PUMA(用于动作选择的预期用户状态建模),这是一个基于自由能原理(FEP)的框架,它将个性化制定为部分可观察性下的决策,以捕获潜在用户状态及其动作条件动态的显式用户状态模型为中心。在每个回合,PUMA 都会保持对用户隐藏状态的信念,细化用于观察生成和动作条件状态转换的用户状态模型,并通过最小化预期自由能、在统一标准下平衡认知和实用目标来选择对话动作。这种表述将个性化从被动记忆检索转变为基于模型的用户进化决策。我们在面向医疗保健的咨询和动机访谈基准上实例化 PUMA,并带有潜在状态注释以进行严格评估。实验表明,PUMA 改善了长期对话结果,同时保持了较强的响应质量,跨数据集研究证明了更可靠的用户状态估计和下一状态预测。