论文
走向连续时间因果基础模型
Towards Continuous-time Causal Foundation Models
摘要
将时间序列的离散时间因果先验数据拟合网络扩展到连续时间需要将该机制编写为随机微分方程(SDE)——但如果 SDE 积分 \emph{每个观察间隙一次},则轨迹定律取决于何时观察到,并且先验仍然是 SDE 服装中的离散时间马尔可夫模型。我们提出了一种精确的连续性标准——观测计划的轨迹定律不变性——以及三层分类法(离散;朴素观测网格集成;与解耦观测的精细网格集成)以及在具有OU或小MLP非线性漂移、不规则观测计划和硬/软/时变干预的随机DAG上实现顶层的结构。一个 $2 \times 2$ 编码器 $\times$ 积分器消融,在线性和非线性先验上独立运行,发现细网格积分在 8/8 个单元上击败了幼稚的单元(符号一致性 $p < 1/256$),并且随着评估网格的细化,间隙不断增大;编码器轴为空,集成良好,但时间感知领先,天真。我们发布了关于药代动力学和物理系统数据的先前和初步的零样本协议。