论文

CURA:基于语言模型的风险预测的临床不确定性风险调整

CURA: Clinical Uncertainty Risk Alignment for Language Model-Based Risk Prediction

应用与实践行业应用

摘要

临床语言模型 (LM) 越来越多地应用于支持自由文本注释的临床风险预测,但其不确定性估计通常校准不佳且在临床上不可靠。在这项工作中,我们提出了临床不确定性风险调整(CURA),这是一个框架,它将基于临床 LM 的风险估计和不确定性与个体错误可能性和队列水平的模糊性相结合。 CURA 首先微调特定领域的临床 LM 以获得适合任务的患者嵌入,然后使用双层不确定性目标执行多头分类器的不确定性 微调。具体来说,个体水平的校准项将预测不确定性与每个患者的错误可能性相一致,而队列感知正则化器将风险估计拉向嵌入空间中当地社区的事件率,并对决策边界附近的模糊队列给予额外的权重。我们进一步表明,这个队列感知术语可以解释为具有邻域信息软标签的交叉熵损失,为我们的方法提供了标签平滑视图。对各种临床 LM 的 MIMIC-IV 临床风险预测任务进行的广泛实验表明,CURA 持续改进校准指标,而不会显着影响区分度。进一步的分析表明,CURA 减少了过度自信的错误保证,并为下游临床决策支持提供了更值得信赖的不确定性估计。