论文
使用开源小语言模型进行临床术语提取
Clinical Term Extraction using Open-Source Small Language Models
摘要
非结构化临床记录中记录的肌萎缩侧索硬化症 (ALS) 护理的临床信息限制了下游分析,而无需提取为结构化格式。在没有特定于任务的训练数据的情况下,评估了具有少量提示的开源小语言模型,用于检测患者文档中是否存在 ALS 相关临床术语。检测任务针对 17 个类别,涵盖功能评分、呼吸测量、药物以及相关的临床和非临床属性。临床记录内容根据 JSON 编码的出院摘要进行标准化,并使用具有结构化 JSON 输出的提示模板进行处理。我们使用聚合、标签级和手动验证多标签分类指标比较了 26 个开源模型。手动验证表明,与任何单个 SLM 或 TF-IDF 基线相比,正则表达式规则基线具有更高的整体 micro-F1 和更低的汉明损失,而 Qwen3-4B-Instruct-2507 是 micro-F1 性能最高的 SLM。模型排名因指标和标签类别而异,TF-IDF 基线显示高召回率但精度低,一些 SLM 显示较高精度但较低召回率,Hammer2.1-7b 在 ALSFRS-R 子分数检测方面显示出强大的性能。这些发现支持有针对性的混合提取工作流程,而不是替换现有的基于规则的方法。