论文

当 LLM 分析疤痕时:从图像到具有临床意义的特征

When LLMs Analyze Scars: From Images to Clinically-Meaningful Features

应用与实践行业应用

摘要

医学图像分类面临着一个根本性的困境:虽然深度学习模型在规模上取得了显着的性能,但由于注释成本、隐私限制和疾病稀有性,现实世界的临床场景经常遭受严重的数据稀缺。这一挑战在病理性疤痕分类中尤其明显,其中区分疤痕疙瘩和肥厚性疤痕需要微妙的专业知识,并且标记的图像极其有限。我们提出了一种新颖的范例,将 大语言模型 (LLM) 重新定位为知识驱动的特征工程师,而不是端到端分类器。我们称这个框架为ScaFE(疤痕特征工程)。我们的主要见解是,LLM 编码了丰富的医学知识,可以将其具体化为可执行特征提取代码,从而能够将高维图像转换为低维、临床可解释的表示。具体来说,我们使用既定的疤痕评估标准提示 LLM,以生成确定性的 Python 代码,该代码提取与温哥华疤痕量表等临床评分系统一致的特征。我们的方法具有三个关键优势:(1)数据效率,通过将知识获取与统计学习解耦,用有限的训练样本实现稳健的性能; (2)隐私保护,原始图像在本地处理,不暴露于外部LLM; (3) 可解释性,通过基于临床推理的明确特征。关于疤痕分类的大量实验表明,我们的方法始终优于端到端深度学习基线或在有限数据条件下使用 LLM 作为黑盒分类器,为将 LLM 集成到数据高效且临床透明的医疗 AI 系统中建立了一个有前途的方向。