论文

LLM 零样本适应谵妄预测的知识注入框架

A Knowledge-Injection Framework for Zero-Shot Adaptation of LLMs to Delirium Prediction

上下文与知识上下文工程

摘要

大语言模型 显示了临床预测的希望,但专门任务的零样本性能受到不完整的领域知识的限制,特别是对于较小的本地可部署模型。我们提出了一种用于零样本 ICU 谵妄预测的轻量级知识注入框架,该框架通过推理时的外部临床知识报告增强了结构化电子健康记录数据的确定性自然语言摘要,而无需 微调 或检索。我们在 MIMIC IV 数据集中的 3,160 名 ICU 入院患者中评估了 LLaMA 3.1 8B 和 LLaMA 3.3 70B。与无外部知识相比,添加具有临床意义的外部知识报告可使 8B 模型的 AUROC 提高 8.57 个百分点,使 70B 模型的 AUROC 提高 1.99 个百分点。相对于没有外部知识报告的 GPT-5.2 前沿模型参考 (AUROC 68.86%),知识注入将 LLaMA 8B 的性能差距从 15.66 AUROC 点减少到 7.09 AUROC 点,将 LLaMA 70B 的性能差距从 5.30 AUROC 点减少到 3.31 AUROC 点。随机对照报告不会提高表现,而且常常会降低表现,这表明收益取决于有临床意义的内容,而不是仅仅增加提示长度。基于 SHAP 的归因进一步证实了注入的知识在预测过程中被积极使用。这些发现表明,推理时知识注入可以缩小本地可部署的开放权重模型和前沿封闭模型之间的差距,同时为资源有限的临床环境保留实用的、保护隐私的工作流程。