论文

通过 大语言模型 增强科学命名实体识别:类型驱动的多任务学习方法

Enhancing Scientific Named Entity Recognition via Large Language Models: A Type-driven Multi-task Learning Approach

上下文与知识上下文工程

摘要

科学命名实体识别(SciNER)在科学文本的信息提取和知识发现中发挥着至关重要的作用。最近,大语言模型 (LLM) 展示了以最少的人力实现具有竞争力的 SciNER 性能的能力。现有研究强调了合并候选实体类型信息对于 LLM 准确的实体识别和分类的重要性。然而,当提示中提供了太多候选实体类型时,LLM 很难准确识别和标记科学文本中的实体,其中实体类型比一般领域更复杂。为了应对这一挑战,我们提出了 TdSciNER,这是一种类型驱动的方法,可以有效地利用实体类型信息来增强 SciNER 性能。在 TdSciNER 中,我们首先设计一个实体类型过滤模型来识别给定句子中最可能出现的实体类型。随后,我们在多任务学习框架中与 SciNER 一起引入辅助多类实体类型任务,以获得更丰富的上下文表示。然后,我们开发了一种基于句子相似性和实体类型多样性的新颖示范选择策略,以激活 LLM 的上下文学习能力,从而提高跨不同科学领域的实体识别准确性。对三个数据集的实验表明,我们的方法实现了与完全监督模型相当的性能。进一步的分析验证了 TdSciNER 中的每个实体类型驱动组件都有助于 SciNER 性能的提高。这项工作为 SciNER 的未来发展和科学文本挖掘中更广泛的信息提取任务提供了宝贵的见解。