论文
通过用于命名实体识别的多镜头上下文学习来扩展性能和低资源注释
Scaling Performance and Low-Resource Annotation with Many-Shot In-Context Learning for Named Entity Recognition
摘要
采用 大语言模型 (LLM) 的上下文学习 (ICL) 已成为用于命名实体识别 (NER) 的 微调 的强大替代方案,只需最少的注释即可实现强大的性能,无需额外训练。然而,之前的工作表明,尽管 LLM 具有适应性,但在 NER 等结构化任务中仍然落后于完全监督的模型,例如微调 BERT。虽然 ICL 用于 NER 的现有研究主要探索了几次设置,但扩展到数百次演示的潜力尚未得到彻底研究。为了弥补这一差距,我们对用于 NER 的多镜头 ICL 进行了全面研究,并进一步探索其在注释和细化低资源 NER 任务数据方面的有效性。具体来说,我们使用数百个 ICL 示例评估跨多个领域的各种 LLM,然后评估使用多镜头 ICL 作为数据注释框架的可行性。我们的实验表明:(1)扩展到数百个上下文示例使 LLM 能够匹配甚至超越完全监督的 BERT 模型的性能; (2) 使用大约一百个人类标记的示例作为演示,多镜头上下文注释可以生成高质量的标记数据,当用于在低资源 NER 上微调 BERT 时,与现有最先进的方法相比,绝对 F1 提高了约 10%。