论文

LLM 解读日常生活节奏:行为预测和生成的统一理解

LLMs Reading the Rhythms of Daily Life: Aligned Understanding for Behavior Prediction and Generation

模型训练监督微调与指令调优

摘要

人类的日常行为是由意图、偏好和背景塑造的复杂序列。有效地建模这些行为对于个人助理和推荐引擎等智能系统至关重要。虽然深度学习和行为 预训练 的最新进展改进了行为预测,但关键挑战仍然存在,特别是在处理长尾行为、增强可解释性以及在统一框架内支持多个任务方面。 大语言模型(LLM)由于其语义丰富、可解释性强和生成能力提供了一个有前途的方向。然而,行为数据和自然语言之间的结构和模式差异限制了LLM的直接适用性。为了解决这一差距,我们提出了行为理解对齐(BUA),这是一种新颖的框架,通过结构化课程学习过程将 LLM 集成到人类行为建模中。 BUA 采用预训练行为模型的序列嵌入作为对齐锚点,并指导 LLM 通过三阶段课程,而多轮对话设置引入了预测和生成功能。对两个真实世界数据集的实验表明,BUA 在这两项任务中均显着优于现有方法,凸显了其将 LLM 应用于复杂人类行为建模的有效性和灵活性。