论文
HEART:通过扩散模型中的 Kent 表示遍历实现超球形嵌入对齐
HEART: Hyperspherical Embedding Alignment via Kent-Representation Traversal in Diffusion Models
摘要
文本到图像的扩散模型可以生成视觉上令人惊叹的图像,然而,控制显示的内容和显示方式仍然非常困难,特别是当仅在文本调节空间的限制内操作时。例如,更改主题或调整属性通常会导致意想不到的副作用,例如背景改变或细节扭曲。这是因为大多数现有的基于文本的控制方法将嵌入空间视为欧几里德空间并应用简单的线性变换,这不能反映语义概念的实际组织方式。在这项工作中,我们退一步问:这些嵌入的真实几何形状是什么?我们发现文本编码器表示位于超球面上,其中概念不是线性方向,而是结构化的各向异性分布,可以更好地由肯特分布捕获。基于这一见解,我们提出了 HEART,这是一个 无需训练 框架,可直接在超球面上执行肯特感知的测地线变换。通过尊重底层几何形状,HEART 可以实现直观和精确的编辑,例如一致的主题替换和细粒度的属性控制,同时保留原始场景。重要的是,HEART 不需要微调、反演或优化,并且可以泛化到扩散模型架构中。我们的结果表明,简单的视角转换(从线性到球面)可以解锁快速且可控的图像生成。