论文

罗马乌尔都语仇恨言论分类:参数高效微调与提示工程的对比研究

Hate Speech Classification In Roman Urdu: A Comparative Study On Parameter Efficient Fine-Tuning And Prompt Engineering

模型评测模型能力评测

摘要

随着互联网和社交媒体的广泛普及,有毒与仇恨内容呈指数级增长,造成严重的困扰和负面社会影响。罗马乌尔都语是巴基斯坦及全球乌尔都语社区使用的一种低资源语言,其非正式的语法、不一致的句子结构和拼写的多种变体带来了额外挑战。本研究旨在识别在数据有限的低资源场景下进行仇恨言论分类的最有效技术。为此,研究在多种实验配置下考察并比较了最新方法,包括提示微调(prompt tuning)、基于 LoRA 的参数高效微调(PEFT)和提示工程。为实现这一目标,共设计了四个实验:第一个实验让大语言模型不做任何微调直接推理,以评估这些模型在零样本设置下(尤其在数据有限时)对罗马乌尔都语的理解程度;第二个实验采用基于 LoRA 的参数高效微调,仅更新一小部分参数,从而降低计算成本;第三个实验探索提示微调,使用混合提示和人工构造的提示,仅用相对于整个数据集而言非常少的训练样本,同样具备计算高效性;最后,第四个实验通过零样本和少样本学习应用提示工程,仅依靠精心设计的指令提示进行分类,无需进一步训练。