ProximalFM：隐藏混杂下的摊销近端因果推断

摘要

标准因果识别方法通常假设没有未测量的混杂因素，并且当未观察到相关混杂因素时可能会失败。相反，近端因果推理使用代理变量来识别隐藏混杂因素下的影响。然而，非参数近端估计在实践中可能具有挑战性：恢复因果估计值（例如条件平均治疗效果（CATE））需要求解一个病态积分方程，该方程需要大量数据、超参数敏感且优化不稳定。此类模型的贝叶斯推理提供了一种理想的替代方案，通过先验进行正则化来减轻这些困难。然而，计算后验本身就具有挑战性，因为典型的似然函数将包含潜在变量。随着最近表格基础模型在后门、工具变量和前门设置中取得成功，我们提出先验数据拟合网络（PFN）特别适合解决这一瓶颈。事实上，通过训练对从兼容的结构因果模型中采样并访问预言机反事实的合成数据，我们大大简化了任务，将隐含的贝叶斯算子反转分摊为单个Transformer前向传递。与主要关注点估计的先前文献相比，我们的模型 ProximalFM 明确针对 CATE 的贝叶斯后验分布。这个问题的一个独特方面是，我们需要提供预言机 CATE 的蒙特卡罗估计，从而产生一种新的 PFN 变体，可以解释增加的随机误差。在一系列不同的近端机制中，ProximalFM 无需进行特定于数据集的调整即可实现一致的强大 CATE 估计性能，当潜在混杂大量且代理信息量较弱时，其最大优势是；它还通过单个摊销前向传递提供快速推理。

ProximalFM：隐藏混杂下的摊销近端因果推断：论文原图 — 图 B.5：潜在维度 $d_{U}$ 针对每个特征块（$d_{X}$、$d_{W}$、$d_{Z}$）的联合分布，每个先前变体一行（三角形，均匀）。颜色对落在每个 $(d_{U},\cdot)$ 单元中的交付数据集的数量进行编码。 $d_{W}$/$d_{Z}$ 面板上的对角线标志着完整性启发式 $d_{W},d_{Z}\geq d_{U}$；两种变体都将其质量置于其之上或之下，即恒定列过滤不会明显破坏采样时施加的启发式方法。 $d_{X}$ 没有这样的约束，仅供参考。