论文

数字孪生中时间序列感知的模块化基础模型

Modular Foundation Models for Time-Series Perception in Digital Twins

模型架构新型架构

摘要

工程数字孪生以及预测和健康管理 (PHM) 系统依靠强大的感知模块从异构和非平稳时间序列数据中提取可操作的信息。然而,大多数现有方法仍然是特定于任务的、需要大量数据,并且难以集成到可扩展的监控和决策流程中。此外,纯粹的数据驱动模型通常缺乏在不同操作条件下的稳健性和可转移性。为了应对这些挑战,本文提出了一种基于预训练表示编码器集合的时间序列感知模块化基础模型。该框架利用异构数据集上的自监督学习来学习可转移且与任务无关的表示,这些表示可以在多个 PHM 任务中重复使用。引入门控机制来为给定的目标数据集动态选择相关编码器,从而实现条件计算和自适应模型组合。所选表示被投影到共享潜在空间中,并使用基于 Transformer 的自注意力模块进行聚合,该模块显式地模拟跨编码器交互。由此产生的架构通过轻量级任务特定头支持多个下游任务,包括插补、长期预测和小样本学习,同时在适应过程中保持预训练编码器的冻结。广泛的消融研究证明了自监督预训练、编码器选择、表示对齐和自适应聚合的互补作用。 ETT 基准的实验结果显示了跨任务的竞争性能,而水轮发电机转子温度虚拟传感的实际工业案例研究则强调了该方法的实际相关性。