论文
连续治疗的因果基础模型
Causal Foundation Models with Continuous Treatments
摘要
因果推断,即根据观测数据估计因果效应,是许多学科的基本工具。在各个领域中特别重要的是连续治疗环境,其中干预变量具有连续范围。这种设置的探索要少得多,它代表了二元治疗设置的重大转变,模型需要代表治疗值连续体的效果。在本文中,我们提出了连续治疗环境的第一个因果基础模型。我们的模型元学习能够预测各种看不见的任务中的因果效应,而无需额外的训练或 微调。首先,我们设计了一种新颖的先验数据生成过程,具有连续的治疗变量,以生成丰富的因果训练语料库。然后,我们训练 Transformer 来重建仅给定观察数据的个体治疗反应曲线,利用上下文学习来分摊昂贵的贝叶斯后验推理。与专门针对这些任务训练的因果模型相比,我们的模型在个体治疗反应曲线重建任务上实现了最先进的性能。推理代码(包括训练后的模型权重)可以在 https://github.com/layer6ai-labs/CCPFN-inference 找到。