论文
CONSISTRE:使用 大语言模型 进行文档级关系提取的统一一致性感知框架
CONSISTRE: A Unified Consistency-Aware Framework for Document-Level Relation Extraction with Large Language Models
摘要
文档级关系提取(DocRE)旨在跨扩展上下文提取多个实体之间的关系,同时保持预测三元组的一致性。尽管大语言模型(LLM)在信息提取方面表现出卓越的推理能力,但它们的预测通常是为每个候选三元组独立生成的,并且可能违反基本关系约束,例如传递性、对称性和功能唯一性,从而导致矛盾和不可靠的输出。我们提出了 CONSISTRE,这是一个统一的 DocRE 一致性感知框架,它通过两个互补的轨道解决了这一限制。第一个在黑盒 LLM 的推理时运行,结合约束感知提示、基于约束的验证和迭代自我反思来完善预测,而无需特定于任务的 微调。第二个通过 知识蒸馏 和强化学习管道将一致性知识注入较小的开源模型:通过监督的 微调 将来自强大教师的推理痕迹提炼给学生,然后使用复合奖励进行 GRPO 对齐,共同优化提取性能和关系一致性。这两个轨道共同涵盖了统一一致性制定下的 API 可访问和本地可部署场景。 DocRED 上的实验表明,这两个轨道的性能均优于其基线,推理时间轨道使用现成的黑盒 LLM 实现了有竞争力的 F1,而训练时间轨道以推理成本的一小部分大幅缩小了 7--8B 开源模型和最先进的专有 LLM 之间的差距。消融研究证实,显式一致性建模可以缓解关系矛盾,并增强基于 LLM 的 DocRE 跨两种部署范例的可靠性。