关系基础模型中的上下文窗口故障

最近的关系深度学习架构已被提议作为多表关系数据的基础模型，但它们强加了受限的邻域预算，当实体具有许多相关记录时，会强制行截断。我们引入 Animus，这是一个综合金融数据集，其中预测客户收入需要聚合多达数万笔交易。在原始表示上，最近提出的三个模型（RT、Griffin、RelGT）实现了 $R^2 \le 0.18$；单个常规时间预聚合步骤可将 $R^2$ 恢复至 $0.65$。这质疑当前的关系基础模型是否已准备好处理高基数的现实世界数据。