论文
用于隐私敏感临床信息提取的自我提示小语言模型
Self-Prompting Small Language Models for Privacy-Sensitive Clinical Information Extraction
摘要
从牙科进展记录中识别临床命名实体具有挑战性，因为文档高度非结构化、特定领域且通常对隐私敏感。我们开发了一个可本地部署的框架，使小语言模型能够自行生成、验证、完善和评估特定于实体的提示，以从牙科笔记中提取多个临床实体。我们使用 1,200 个带注释的注释，通过多提示集成推理评估候选开放权重模型，并使用基于 QLoRA 的监督 微调 和直接偏好优化进一步调整选定的模型。模型性能差异很大，强调需要针对特定任务进行评估，而不是依赖通用基准。 Qwen2.5-14B-Instruct 取得了最强的基线性能。经过 DPO 处理后，Qwen2.5-14B-Instruct 和 Llama-3.1-8B-Instruct 的微观/宏观 F1 分数分别为 0.864/0.837 和 0.806/0.797。这些发现表明，自动提示优化与基于轻量级偏好的 后训练 相结合可以支持使用本地部署的小语言模型进行可扩展的临床信息提取。