论文

INSIDE学生心智:在LLM学生模拟器中联合建模潜在推理与行动

INSIDE the Student's Mind: Jointly Modeling Latent Reasoning and Action in LLM Student Simulators

模型训练监督微调与指令调优

摘要

基于大语言模型(LLM)的模拟器常常再现可观察的行动,却未能捕捉其背后的推理。在学生模拟日益被用于评估辅导系统等多种应用的教育领域,这一差距尤为突出。两名学生可能出于完全不同的原因提交完全相同的作业。我们提出INTERNAL STUDENT DIALOGUE(INSIDE),一个对学生建模的框架,它微调LLM不仅使其表现得像学生,还使其像学生一样思考。INSIDE基于布鲁姆分类法生成跨越认知、情感和行动维度的内部对话,并在成对的思考轨迹与行动上微调模型。我们与不同的提示词框架进行基线比较,并在两个轴上评估:模拟行动的保真度和生成的内部对话质量。评估表明,INSIDE在行动保真度(匹配真实学生的代码生成)和推理对齐两方面都提升了模拟保真度,跨模型取得最高对齐度,最高达57.9%。

INSIDE学生心智:在LLM学生模拟器中联合建模潜在推理与行动:论文配图
图1:内部学生对话(INSIDE)。我们提出INSIDE,一个通过微调LLM来同时建模学生内部推理与可观察行动的框架。在AI导师辅助的编程练习情境中,我们训练的LLM生成言语化的思维链轨迹,模仿学生如何把先前的代码提交和AI导师反馈情境化;以推断出的内部对话为条件,模型模拟代码提交,与真实学生所生成的内容高度吻合。