用于人体模拟的预训练角色混合模型和串联模型

我们在此认为，目前大语言模型人类模拟的主流做法：提示经过指令调整的辅助语言模型来角色扮演角色，这是不准确的，并且会产生刻板的预测（缺乏自然多样性）。之前的研究表明，大语言模型可以使用自然的自由文本对话与角色绑定，从而避免刻板印象。在这里，我们展示了也可以使用来自特定人员的简短的、单独的对话样本来实现绑定。稍后可以通过简单地查询模型来添加人口统计数据，而不会产生负面影响。我们使用术语“角色混合模型”(PMM) 来表示经过良好校准的人体模型，目前已实现为预训练的基础模型。我们表明，PMM 可以比指令调整模型产生更准确的预测，并保留更多人类对话中的词汇、语义和语用多样性。我们衡量了大语言模型在一系列不同的语料库中模拟人类对话者的真实性和多样性，这些语料库涵盖开放域文本、人类与人工智能的聊天以及人类说话者之间面向任务的对话。然而，基础预训练模型可能会产生域外对话，并且可能会在长时间的上下文中丢失一些人类的内部状态。我们提出并探索串联模型，将预训练模型与指令调整的监督器相结合。串联模型在我们的实验中实现了最佳的整体准确性和多样性。