面向低资源语言仇恨言论检测的LLM高效适配：以罗马乌尔都语为例的比较研究

由于缺乏标注数据、语言结构不规范以及缺少标准化语法，检测低资源语言（LRL）中的仇恨言论非常具有挑战性。罗马乌尔都语（Roman Urdu）就是这类挑战的典型例子：它被南亚人群在社交媒体上广泛使用，变体繁多，且缺乏上下文一致的拼写。本文的目标是对大语言模型（LLM）在罗马乌尔都语文字中的仇恨言论检测（HSD）能力进行综合评估，并使用参数高效微调（PEFT）方法——低秩适配（LoRA）——对这些模型进行微调。为了评估零样本推理，我们在多个transformer模型上将其与PEFT进行对比，包括Mistral、LLaMA、Falcon和多语言BERT。实验在包含超过72000条标注评论的PURUTT（Parallel Urdu and Roman Urdu Corpus for Toxic Comments and Transliteration）数据集上进行。结果表明，零样本模型表现中等（F1 = 0.56），但仅更新模型可训练参数的一小部分即可显著提升分类性能（F1 > 0.93）。我们的结果显示，PEFT在出色性能之外还具有优异的计算效率，使其非常适合低资源语言处理任务。