论文

使用轻量级 LLM 微调 进行模式约束的文档级事件参数提取

Schema-Constrained Document-Level Event Argument Extraction with Lightweight LLM Fine-Tuning

模型训练监督微调与指令调优

摘要

事件参数提取 (EAE) 通过识别参数范围并为其分配架构定义的角色,将文档转换为结构化事件记录。由于触发器和参数之间的长程依赖、跨句子上下文和严格的角色约束,文档级 EAE 具有挑战性,这通常会导致边界错误、角色的不确定性以及与受限模式的不一致。在本文中,我们研究中型开放 LLM 是否可以在 MAVEN-ARG 上在文档级别可靠地执行模式约束 EAE。我们的方法结合了(i)提示模式合规性的角色集注入,(ii)使用推理时使用的相同纯 JSON 接口的参数高效监督 微调 (LoRA),以及 (iii) 确定性解码和后处理,用于验证 JSON、过滤无效角色、删除重复参数并将跨度与文档窗口对齐。在官方 MAVEN-ARG 评估器下,经过微调的中型开放模型在提及、实体共指和事件共指评估方面优于之前报告的 GPT 基线;我们最好的模型(Phi-4,14B)在事件共指水平上达到了 42.39% F1。重现实验的代码可在 https://github.com/dessertlab/EAE/ 上公开获取。