论文

SurvPFN:走向生存预测的基础模型

SurvPFN: Towards Foundation Models for Survival Predictions

模型训练预训练

摘要

表格基础模型(TFM)在标准分类和回归方面取得了快速进展,但事件发生时间生存预测任务在很大程度上仍然没有受到影响。与标准回归任务不同,生存预测模型必须考虑审查数据。标准 TFM 无法处理本机审查数据,导致预测有偏差且不准确,从而不适合实际应用。为了克服这一基本限制,我们提出 \texttt{SurvPFN},一种先验数据拟合网络(PFN),用于生存预测任务。我们在数百万个合成生存预测任务上对 \texttt{SurvPFN} 进行预训练,以通过考虑审查数据的分布回归来学习生存。 SurvPFN 的工作原理是(1)使用 Weibull 事件时间和非信息审查机制生成数据; (2) 整合审查事件指标; (3) 最小化删失负对数似然。在 SurvSet(现实世界生存任务的集合)上,\texttt{SurvPFN} 与经典和深度生存基线具有很强的竞争力,无需每个数据集拟合、特定于生存的架构或特征工程。我们证明,生存可以被视为具有删失损失的连续时间分布回归问题,从而释放 PFN 用于事件发生时间预测的能力。