论文

SLATE:人工智能生成的幻灯片具有教育效果吗?语言教学质量和学习者知识获取的基准

SLATE: Are AI-Generated Slides Educationally Effective? A Benchmark for Language Teaching Quality and Learner Knowledge Acquisition

模型评测基准与评测资源

摘要

LLM在语言教学幻灯片生成方面取得了显着的能力。然而,视觉效果和实际教学效果之间仍然存在严重的不匹配。为了解决这一差距,我们引入了 SLATE(基于幻灯片的教学效果评估),这是第一个通过教学效果和学习者知识获取来评估人工智能生成的语言教学幻灯片的基准。 SLATE 将语言学奥林匹克难题从网络存在量可以忽略不计的低资源语言转变为 90 个标准化教学单元,其中包含 1,133 个可评估项目,并配有结构化课程大纲和匹配的近端和远端迁移测试集。这种前测后测设计消除了预训练的知识泄漏,确保收益反映学习而不是先前的回忆。使用 VLM 作为可扩展的学习者代理并由三系统人类飞行员进行定向支持,我们的结果表明内容有效性与学习增益表现出弱关联,而教学设计表现出强大的正关联。此外,大多数系统在近传输精度和远传输精度之间存在显着差距,甚至前沿模型也会产生负学习增益。 SLATE 揭示了工件质量和教学有效性之间的脱节,呼吁在生成式教学系统的构建、评估和部署方式上进行范式转变。