论文
注意力频率调制:无需训练 扩散交叉注意力的频谱调制
Attention Frequency Modulation: Training-Free Spectral Modulation of Diffusion Cross-Attention
摘要
交叉注意力是文本条件潜在扩散模型的主要接口,但其逐步多分辨率动态仍未得到充分表征,限制了有原则的 无需训练 控制。我们通过将 token-softmax 权重总结为与 token 无关的浓度图并跟踪其径向分箱的傅里叶功率去噪,将扩散交叉注意力投射为潜在网格上的时空信号。在提示和种子中,编码器交叉注意力表现出一致的从粗到细的谱级数,产生词元竞争的稳定时频指纹。在此结构的基础上,我们引入了注意力频率调制(AFM),这是一种即插即用的推理时间干预,可在傅里叶域中编辑词元式的 pre-softmax 交叉注意力 logits:低频段和高频段通过与进度对齐的时间表重新加权,并且可以在词元 softmax 之前通过词元分配熵自适应地门控。 AFM 提供了一种连续的处理方式来偏置词元竞争模式的空间规模,而无需重新训练、提示编辑或参数更新。稳定扩散实验表明,AFM 能够可靠地重新分配注意力谱并产生大量的视觉编辑,同时在很大程度上保留语义对齐。最后,我们发现熵主要充当基于相同频率的编辑上的自适应增益,而不是独立的控制轴。