告诉我为什么：设计一个可解释的基于 LLM 的对话系统，用于学生问题行为诊断

诊断学生问题行为需要教师综合多方面的信息，识别行为类别，并规划干预策略。尽管经过微调的 大语言模型 (LLM) 可以通过多轮对话支持这一过程，但它们很少解释为什么推荐策略，从而限制了透明度和教师的信任。为了解决这个问题，我们提出了一个基于微调的 LLM 构建的可解释对话系统。该系统使用基于可解释人工智能（xAI）的分层归因方法来识别每个推荐的对话证据，并根据该证据生成自然语言解释。在技​​术评估中，该方法在识别支持证据方面优于基线方法。在对 22 名职前教师进行的初步用户研究中，收到解释的参与者对系统的信任度更高。这些发现为提高教育对话系统中的 LLM 可解释性提出了一个有希望的方向。