Concordia：联合 LLM 的自我改进综合表

联邦学习 (FL) 可以在不共享原始数据的情况下训练 大语言模型 (LLM)，但在严格的数据隔离和非 IID 客户端分布下调整 LLM 在实践中仍然具有挑战性。合成数据为本地训练提供了天然的隐私保护替代品，但现有的联合管道通常将合成生成视为静态或与下游优化松散耦合，导致异构客户端下的效用迅速减少。我们研究了 LLM 在表格任务上的联合适应，其中原始记录和验证数据无法共享，并且本地训练必须完全依赖于合成表。我们提出了 Concordia，一个三级优化框架，尽管存在这些限制，但仍将合成数据生成与联合验证实用程序保持一致。在客户端层面，模型通过综合表上的参数高效 LoRA 训练进行调整。客户还可以从私人验证反馈中学习轻量级效用评分器，以在本地训练期间重新加权合成样本。在外部级别，每个客户端使用组相对策略优化 (GRPO) 来完善自己的合成表生成器，并由跨客户端共享的异构评分器集合引导，无需聚合生成器参数或公开验证数据。对金融和医疗保健领域的隐私敏感表格基准进行的实验表明，与静态和解耦的合成数据基准相比，Concordia 持续改进了联合性能、跨客户端稳定性以及对分布变化的鲁棒性。