论文
LLM的分布对齐可以泛化到哪里？
Distributional Alignment of LLMs and Its Generalization Properties
摘要
大语言模型越来越多地被用于模拟和探究人类行为，例如用于调查。这类应用的一项关键属性是分布对齐，即模型输出分布与某种参考分布——此处为人类分布——相匹配。实现分布对齐的一个障碍，是如何从少量训练数据泛化。本研究考察：（1）如何使LLM实现分布对齐；（2）对齐后的LLM如何泛化至未见样本、不相关主题和任务。使用两个大规模基准，我们发现LLM确实能够实现分布对齐，并泛化到同一领域的未见问题。跨主题泛化取决于主题之间的关系，例如政治问题与对机构的信任相关。不过，对齐后的LLM也可能以出人意料的方式退化，例如失去创造能力，说明其泛化性质本质上具有不可预测性和不稳定性。
