论文
LC-ICL:用于稳健信息提取的标签引导对比上下文学习
LC-ICL: Label-Guided Contrastive In-Context Learning for Robust Information Extraction
摘要
人们对探索高级 大语言模型 (LLM) 在信息提取 (IE) 领域的功能越来越感兴趣,特别关注与命名实体识别 (NER) 和关系提取 (RE) 相关的任务。尽管研究人员正在探索通过 LLM 进行上下文学习来使用少样本信息提取,但他们往往只专注于使用正确或正面的示例进行演示,而忽略了合并错误或负面示例的潜在价值在本文中,我们提出了 LC-ICL 一种新颖的小样本技术,该技术利用正确和不正确的样本结构来创建上下文学习演示。这种方法通过将正样本与由错误原因标签注释的负样本相结合,增强了 LLM 提取实体和关系的能力。这些标签暴露了错误示例中更详细的错误特征,使模型能够理解为什么类似的预测失败,并避免在推理过程中重复此类错误。具体来说,我们提出的方法利用了硬负样本和测试的最近正邻居中的固有上下文信息和有价值的信息,然后应用基于 LLM 的上下文学习演示。我们对各种数据集的实验表明,LC-ICL 优于之前的几次上下文学习方法,在广泛的相关任务中显着提高了性能。这些改进值得注意,展示了我们的方法在不同场景中的多功能性。