论文

LLM 在复杂图的监督关系提取方面表现不佳基于图的解析器

LLMs Underperform Graph-Based Parsers on Supervised Relation Extraction for Complex Graphs

模型评测模型能力评测

摘要

关系提取是创建知识图及其他应用程序过程中的基本组成部分。 大语言模型 (LLM) 已被采用为一种有前景的关系提取工具,无论是在监督学习还是上下文学习环境中。然而,在这项工作中,我们表明,当文本底层的语言图非常复杂时,它们的性能仍然落后于更小的架构。为了证明这一点,我们在六个具有不同大小和复杂性的句子图的关系提取数据集上针对基于图的解析器评估了四个 LLM。我们的结果表明,随着输入文档中关系数量的增加,基于图的解析器的性能逐渐优于 LLM。这使得更轻的基于图的解析器成为存在复杂语言图的情况下的最佳选择。