论文
MedStruct-S:关键发现、关键条件 QA 和 OCR 临床报告半结构化提取的基准
MedStruct-S: A Benchmark for Key Discovery, Key-Conditioned QA and Semi-Structured Extraction from OCR Clinical Reports
摘要
从 OCR 衍生的临床报告中提取半结构化信息 (IE) 对于有效重建患者的纵向病史至关重要。在实践中,此场景通常涉及三个任务:(i)字段头(键)发现,(ii)键条件问答(QA),以及(iii)端到端键值对提取。然而,现有的评估通常低估了两个因素:异构且不完全已知的关键表示,以及 OCR 引起的噪声。这使得在现实环境中评估模型的稳健性变得困难。我们推出了 MedStruct-S,这是一个专门设计用于评估未知密钥和 OCR 噪声下的这些任务的基准。 MedStruct-S 包含 3,582 个带注释的真实临床报告页面。使用 MedStruct-S,我们对两种代表性范式进行了基准测试:带有后处理的仅编码器序列标记和仅解码器结构化生成,涵盖涵盖 0.11B 至 103B 参数的四个仅编码器和五个仅解码器模型。我们的结果表明,尽管仅编码器模型比仅解码器模型小得多,但仅编码器模型在非空值键条件 QA 方面实现了最佳性能。当比较相似数量级的模型时,仅编码器模型总体上仍然表现更好。在不控制模型规模的情况下,经过微调的仅解码器模型可提供最强的整体结果。这些发现表明,该基准测试为选择和比较不同半结构化 IE 设置的模型提供了可靠且实用的基础。