论文

大语言模型 报价错误的检测和可解释性分析

Detection and Interpretability Analysis of Quotation Errors by Large Language Models

模型训练监督微调与指令调优

摘要

目的 - 引用错误是指引用的信息与其原始来源不一致。这种现象导致了对原创研究的误解、破坏学术界对相关问题的集体认识、削弱基于引文的学术评价体系的准确性和公平性等一系列负面影响。现有研究表明,学术界普遍存在引用错误;而且,人工核实报价错误不仅耗费大量人力,而且效率低下。因此,本文提出“报价错误自动检测”的任务。方法 - 采用基于大语言模型(LLM)的方法,在现有研究的基础上,本文从两个方面改进了检测性能:首先,对LLM采用微调方法来检测报价错误;其次,将引用文献的全文数据纳入数据集构建中,通过比较三种全文整合方法,探索构建数据集的最佳方案。基于此,本文进一步利用TokenSHAP工具对模型的预测结果进行可解释性实验分析。研究结果 - LLM 的 微调 方法提高了检测报价错误的性能。在合并全文信息的不同方法中,基于使用源摘要的方法产生了最佳性能。独创性——将大语言模型(LLM)的微调方法应用于自动检测报价错误的任务,并对模型的输出结果进行可解释性分析。