论文
用于预测过程监控的高效在线连续基础模型 微调
Efficient Online Continual Foundation Model Fine-Tuning for Predictive Process Monitoring
摘要
预测流程监控 (PPM) 模型越来越多地部署在动态环境中,其中概念漂移会导致底层流程分布随着时间的推移而发生变化。虽然最近的工作已经转向在线持续学习,但现有的方法完全从头开始训练紧凑的、特定于任务的网络,从而留下了持续存在的冷启动问题。基础模型 (FM) 为该问题提供了令人信服的解决方案,但其在流程挖掘领域中持续的 微调 仍未得到探索。我们提出了 COMPASS(具有自适应子空间的基于连续在线基础模型的 PPM),这是用于 PPM 的在线连续 FM 微调 的第一个框架。 COMPASS 采用损失平台漂移检测来自动识别事件流中的任务边界,并维护一个统一的知识子空间,包括预训练和特定于任务的方向。我们在九个事件流上评估我们的方法,涵盖合成和现实世界的概念漂移场景,跨具有多个主干的无任务和任务感知设置,并在所有方法中进行一致的超参数调整。我们的方法优于三个 SOTA 非 FM 竞争对手和两个更新策略基线,在表现出经常性漂移和复杂的长期运行案例的流上获得特别强劲的收益,同时与非 FM 竞争对手相比,产生可接受的计算开销。