论文

语言模型是否理解书写系统?

Are Language Models Script-Aware?

模型评测模型能力评测

摘要

语言模型经常以非预期的语言或脚本生成输出,这种现象称为脱靶生成。虽然现有的研究主要集中在语言选择上,但脚本知识的维度仍未得到充分研究:在进行任何语言理解之前,用户必须识别模型响应中的图形符号。我们通过在多脚本语言上进行测试来调查 Small 和大语言模型(SLM 和 LLM)是否拥有脚本知识。通过两个互补的实验,我们评估模型是否(1)调整其输出脚本以匹配输入,以及(2)遵循明确的指令以指定脚本生成文本。我们测试的模型展示了丰富的脚本知识:它们都实现了近乎完美的拉丁脚本保真度(超过 98%),并高频率地遵循脚本指令。尽管如此,我们注意到 LLM 和 SLM 之间的差异,LLM 的得分更高,包括非标准脚本组合。

语言模型是否理解书写系统?:论文原图
(一个)