论文
ENCORE:扩散生成的精确并行复制交换控制
ENCORE: Exact Non-equilibrium COntrol with Replica Exchange for Diffusion Generation
摘要
推理时控制在不重训的情况下把预训练生成模型导向目标分布。我们研究倾斜目标π0∝G0·p0(p0为采样器输出分布,G0为可评估的重加权函数)。现有方法依赖序贯蒙特卡洛(SMC)的序贯退火或复制交换(RE)的并行退火:序贯控制精确但需要大粒子群,精确的并行控制方法此前不存在——现有RE校正近似棘手的时间反演因而有偏。我们提出ENCORE,首个精确并行控制方法:每个副本存储其生成轨迹,使向上移动成为截断,从不模拟棘手的时间反演。我们证明目标不变性,并表明所得动力学是以精确时间反演为正向提议的非平衡复制交换。在正则条件下,扩散分析显示无引导时序贯与并行控制都会在时间离散化细化下失稳,而引导提议保持稳定并给出调优调度与计算预算的诊断。在合成目标、生物分子玻尔兹曼采样与图像生成上,ENCORE达到有竞争力的准确率与多样性,对采样器扰动稳健,并适用于现有RE校正不可用的蒸馏采样器。