论文

EVENT5Ws:用于从文档中提取开放域事件的大型数据集

EVENT5Ws: A Large Dataset for Open-Domain Event Extraction from Documents

模型评测基准与评测资源

摘要

事件提取从文本中识别事件的核心方面。它支持事件理解和分析,这对于紧急情况下的明智决策等任务至关重要。因此,有必要开发自动事件提取方法。然而,用于算法开发的现有数据集存在局限性,包括闭域设置中事件类型的覆盖范围有限,以及开放域设置中缺乏大型的、手动验证的数据集。为了解决这些限制,我们创建了 EVENT5Ws,这是一个大型的、手动注释的、经过统计验证的开放域事件提取数据集。我们设计了一个系统注释管道来创建数据集并提供对注释复杂性的经验见解。使用 EVENT5W,我们评估最先进的预训练 大语言模型 并为未来的研究建立基准。我们进一步表明,在 EVENT5W 上训练的模型可以有效地推广到来自不同地理环境的数据集,这表明了其开发可推广算法的潜力。最后,我们总结了数据集开发过程中的经验教训,并提供支持未来大规模数据集开发的建议。