利用预训练表格基础模型生成神经后验估计的摘要表示

论文研究将 TabPFN 用作基于模拟的贝叶斯推断 SBI 中无需再训练的模块化摘要网络。表格基础模型在广泛的合成表格数据生成过程上预训练，并在测试时通过上下文学习适应输入；这适合 SBI，因为后验估计常依赖从模拟观测中提取有信息量的摘要。PFN-NPE 用预训练 TabPFN 编码器作为固定摘要网络，再将摘要与按具体问题选择的下游推断模块连接。默认使用归一化流时，方法达到现有后验近似方法的水平，有时表现更好。诊断显示，TabPFN 摘要常保留有用的后验位置和边缘分布信息；但即便边缘分布恢复良好，也可能难以表达联合后验结构。实验总体说明，TabPFN 可在多种 SBI 设置中作为有效摘要网络，同时允许推断网络按任务灵活替换。