论文

CMNIE:中国军事新闻信息提取基准

CMNIE: An Information Extraction Benchmark for Chinese Military News

模型评测基准与评测资源

摘要

中国军事新闻的结构化提取支持情报分析、决策和知识库建设。然而,现有资源对该领域的联合信息提取提供的支持有限,特别是当事件、事件参数、实体和关系必须一起建模时。我们推出 CMNIE,中国军事新闻的信息提取基准。 CMNIE 将军事领域资源扩展到文档级事件注释之外,在统一的域模式下联合注释事件触发器、事件参数、命名实体和实体关系。该数据集包含从中国公开军事新闻中收集的 13,000 个实例,并对 7 种事件类型、10 种论元角色、7 种实体类型和 8 种关系类型进行了手动注释。我们在共享测试集上评估监督 IE 模型、零样本 大语言模型 和基于微调 LLM 的提取方法。实验结果表明,CMNIE 仍然具有挑战性,特别是对于关系提取和事件论证范围的精确匹配;零样本 LLM 通常可以识别相关语义单元,但无法准确匹配标准标注跨度边界。 CMNIE 为研究专业中文新闻中的模式依从性、精确跨度匹配和联合结构化提取提供了标准化基准。