大语言模型 中思想链推理的平均场动力学

具有思想链推理的大语言模型（LLM）近年来得到了广泛应用，对其行为的理论解释可能有助于加深我们的理解并指导模型优化。在本研究中，我们引入了一个框架，该框架在 LLM 推理中寻求统计规律和理论解释，而无需简化模型架构或对现有物理系统进行类比。我们将 LLM 推理公式化为线索图上的引导发现过程，并使用平均场近似导出已发现线索分数的一维常微分方程。实验上，线索标记是使用学生 LLM 对教师 LLM 的输出的归一化惊讶来识别的，并且通过对许多推理思维链进行平均来获得统计规律。我们的实验表明，所得到的统计规律在同一数据集中是可重复的，并且可以通过求解所提出的理论方程来拟合。