论文
方差倾斜扩散模型:面向多样化候选的联合采样
Variance-Tilted Diffusion Models for Diverse Sampling
摘要
扩散模型通常是独立采样的,即使下游目标是获得一组不同的候选者。我们引入了方差加权批量分布,该分布有利于在规定的线性特征映射之后具有较大经验离散程度的样本集合。目标是明确指定的,采样器是作为独立扩散动力学的相应 Doob $h$ 变换而导出的。得到的校正具有紧凑的形式:排斥后验去噪均值的交互项,以及将粒子移动到特征方差较高的区域的曲率项。这产生了具有透明概率目标而不是启发式排斥漂移的相互作用粒子采样器。