StraightDP：整流流的几何感知差分隐私 Transformer

文本条件生成模型的差分隐私（DP）训练在强隐私性下遭遇了效用悬崖。我们通过整流流的几何结构重新审视这个问题：沿着噪声和数据之间的直接插值，贝叶斯最优速度由一些类条件矩控制在噪声端的领先顺序，并且越来越多的样本特定结构对数据端产生影响。 StraightDP 端到端地利用了这种异构性。一小部分预算份额会释放一次白化的类条件矩，以便将其提取到权重中或在采样时注入。其余的则由预先声明的 DP-SGD 用于数据端，超出了时刻的范围。在 MNIST 上的 $\varepsilon=1$ 处，仅发布的时刻就已经达到了 $0.76$ 的下游精度，具有类似原型的样本和 $237$ 的 FID，并且统一的 DP-SGD 达到了 $0.21$。基于该版本构建的管道在公共潜在空间中的 FID 为 56，准确率达到 0.81。约束多模式主干的每个词元流规范使预训练损失保持不变，但提高了极端噪声像素空间体系中的下游精度，并且随着隐私的增强，其精度效果变得单调更有利。发布的时刻还移植到冻结的 SD3 介质，其中采样时间注入以预算的一小部分击败了 DP-LoRA 训练。