论文

用于跨语言立场检测的基本原理引导 知识蒸馏

Rationale-Guided Knowledge Distillation for Cross-Lingual Stance Detection

摘要

立场检测旨在识别文本是否表达了对给定目标的有利或反对态度,并且是各种下游应用程序的重要任务。尽管现有研究在单语环境(尤其是英语)中取得了出色的表现,但许多资源匮乏的语言(例如加泰罗尼亚语)仍然缺乏足够的注释数据来训练有效的模型。跨语言立场检测通过将立场知识从资源丰富的语言转移到资源匮乏的语言来缓解这个问题。然而,大多数现有方法主要依赖于文本和目标之间的语义对齐,而忽略了可靠的立场推断所需的推理过程。尽管大语言模型提供了强大的推理能力,但其较高的计算成本和推理延迟限制了实际部署。为了解决这些限制,我们提出了一个用于跨语言立场检测的基本原理引导的 知识蒸馏 框架。具体来说,我们使用思想链提示来指导 大语言模型 生成信息丰富的基本原理,并将由此产生的推理知识提炼成紧凑的学生模型。我们进一步设计了一种双路径 蒸馏 机制来对齐基本原理增强和无基本原理表示及其预测分布。此外,还引入了两种对比学习策略来改善立场辨别力。多语言基准实验表明,我们的方法始终优于竞争基准。