FedChronos：用于保护隐私的商品价格预测的联合 微调 时间序列基础模型
FedChronos: Federated Fine-Tuning of Time-Series Foundation Models for Privacy-Preserving Commodity Price Forecasting
摘要
Chronos 等时间序列基础模型 (TSFM) 已经展示了强大的跨领域预测能力，但如何将其适应机构分散的环境（在这些环境中，由于监管、竞争或主权限制，数据无法集中），仍有待探索。我们引入了 FedChronos，这是一个针对已预先训练的 TSFM 的联合参数高效 微调 的框架，这是现有联合时间序列工作尚未解决的设置，因为之前的方法要么从头开始预训练，要么对齐原型，而不是适应固定的骨干网。我们的方法将低秩适应 (LoRA) 应用于 Chronos-T5 主干，并使用 FedAvg 和 FedProx 跨分布式客户端进行训练，仅传输轻量级适配器权重（每轮 384~KB，比全模型交换减少 86 倍）。我们根据来自 9 个邦的 15 个印度农业市场的每日商品价格（自然非 IID 联邦环境）评估 FedChronos，发现幼稚的 LoRA 微调 在小型每个客户端数据集上严重过度拟合，低于零样本性能。我们进一步观察到差分隐私（DP）噪声可以充当隐式正则化并抵消这种过度拟合：在我们的实验中，最强的配置（$\varepsilon = 5$）将平均绝对百分比误差（MAPE）比零样本降低了31%，比最佳传统基线降低了26%，同时通过每轮$(\varepsilon, δ)$-差分隐私限制了每轮的信息泄漏。由于该模型紧凑且更新量较小，因此该方法也适合网络链路和客户端设备均受到限制的边缘人工智能部署。总体而言，我们的研究结果表明，在联合 TSFM 微调 中，隐私和准确性可以是互补的，而不是相互竞争的目标。