论文
SCORE:多元高斯的谱相关估计
SCORE: Spectral Correlation Estimation for Multivariate Gaussians
摘要
具有高维结构化高斯目标的基于神经网络的预测建模需要高效、数值稳定且富有表现力的协方差矩阵近似。我们提出 SCORE:一个可扩展的框架,将评分规则训练与在谱空间中学习的表达协方差近似相结合。对于 $d$ 维数据,学习任务被分解为学习边际分布和学习结构化相关矩阵,从而实现具有线性存储和 $\mathcal{O}(d\log d)$ 成本的密集依赖关系。我们利用封闭形式的高斯核分数进行训练,即使对于简并协方差,它仍然是定义的,并且在优化期间允许有界梯度。我们描述了可逆变换下的核分数,并证明了酉变换下的精确不变性。在人口层面,我们的两级目标恢复了真实的边际,并将目标相关性投影到可代表的类别上;有限样本 PAC 边界表明两个阶段的误差相加。我们在各种方面评估我们的模型 具有通常假设的高斯域的任务:时间序列预测、单目深度估计和空间天气预报,以较低的计算成本显示出更高的性能。