健康基础模型中的新兴符号结构：提取、对齐和跨模态传输

我们表明，信息可以在独立训练的健康基础模型 (FM) 之间进行事后传输，每个模型都通过调整依赖于数据的坐标系，对来自约 172K 参与者的约 2000 万分钟的可穿戴传感器数据进行了预训练。我们使用线性分解方法从冻结的嵌入中提取候选的类似符号的组件，并使用简单的线性映射将它们跨模型对齐。对齐的符号有选择地与健康状况和生理属性相关联，在模式和架构之间具有相似的关联。在一个模型的符号上进行训练并应用于另一个模型的分类器保留了 95% 以上的域内性能，并且在两个方向上的保留率相似。总体而言，我们的结果表明，经过独立训练的健康 FM 趋向于同一基础生理学的共同表征。