SAFE-SVD：物理基础模型的灵敏度感知保真度增强 SVD

我们提出了一种压缩物理基础模型（PFM）的新方法，这是科学人工智能的新趋势。虽然模型压缩对于减少大型基础模型中的内存使用和加速推理至关重要，但对于 PFM 来说，它仍然没有得到充分探索，因为在 PFM 中，保持物理保真度至关重要。挑战在于物理数据的函数性质，其中偏导数编码时空动力学并对压缩表现出高敏感性。传统的压缩方法忽略了这种结构，常常导致严重的性能下降或故障。为了解决这个问题，我们引入了一种敏感度感知保真度强制压缩框架，该框架在压缩过程中显式地模拟输出函数空间中的损失感知层敏感度。这提供了一种压缩科学基础模型同时保持准确性和物理保真度的新途径。实验表明，在多个模型和数据集上，现有方法取得了显着的进步，在保持准确性的同时实现了显着更高的压缩比，在某些情况下达到了数量级。更广泛地说，这项工作可能会在科学人工智能领域带来一个高效、可部署和可持续的科学基础模型的新子领域。