DAG-FM：适应异构因果机制的因果发现基础模型

从观测表格数据中发现因果关系仍然具有根本性的挑战性，这主要是由于潜在因果机制的异质性和有向无环图（DAG）的高维组合搜索空间。在本文中，我们提出了 \textbf{DAG-FM}，这是一种摊销因果发现的新型基础模型架构。与直接矩阵预测不同，DAG-FM 使用两个专门的基于 Transformer 的子模块将因果发现过程分解为两个自回归阶段：叶节点预测器和父节点预测器。为了有效地模拟复杂的行列交互，我们采用强大的表格交互块来输出特征表示。至关重要的是，为了处理现实场景中多样化且未知的函数因果模型（FCM）假设，我们引入了混合叶专家（MoLE），允许模型动态路由并适应可识别的机制系列。通过迭代推理算法，DAG-FM 无缝提取因果顺序并构建有效的 DAG。大量实验表明，DAG-FM 在综合基准和复杂的现实数据集上都实现了最先进的性能，在准确性和可扩展性方面显着优于传统经典算法和最新的基础模型。