论文
BioDivergence:生物医学摘要中隐藏的上下文矛盾的基准和评估框架
BioDivergence: A Benchmark and Evaluation Framework for Hidden Contextual Contradictions in Biomedical Abstracts
摘要
不同研究之间的生物医学发现似乎常常存在冲突,但其中许多差异是与背景相关的,而不是真正的矛盾。队列、地理位置、检测方案、疾病亚型和临床环境的变化可以使这两种说法在当地有效。现有的 NLI 和科学主张验证基准将此类情况简化为蕴含、矛盾或中性,未能捕捉分歧背后的上下文结构。为了解决这个问题,我们引入了 BioDivergence,这是一个评估框架,具有六类冲突分类法、13 轴分歧本体论以及每个索赔对的四个结构化输出:冲突类型、分歧轴、主要混杂因素和协调解释。我们发布了 BioDivergence-Silver-v1.0,这是一个跨五个生物医学领域的 11,865 个声明对的文章不相交银基准,以及用于比较的传统重复数据删除变体。结果显示,两个变体之间存在显着的排名差异,微调参考模型在文章不相交设置下下降了约 12 分,而 Mistral-7B-Instruct-v0.3 在 842 个示例的主要测试集上实现了 0.5523 的准确度和 0.3894 的上下文 F1。 BioDivergence 提供了一种更可靠的方法来区分上下文分歧和直接矛盾,并将文章级记忆与真正的任务学习分开。