MUSE：通过拓扑正交性解决视觉标记化中的流形错位

统一视觉标记化面临高保真像素重建（空间等变性）和语义抽象（概念不变性）之间的基本权衡。我们将这种冲突归因于流形错位：朴素的联合优化会引起相反的梯度，从而在重建和感知之间造成零和游戏。为了解决这个问题，我们提出了 MUSE，一个基于拓扑正交性的框架。通过将 Structure 视为正交桥，MUSE 在 Transformer 中解耦优化：结构梯度细化注意力拓扑，而语义梯度更新特征值。这将破坏性干扰转化为相互强化。实验表明，MUSE 打破了这种权衡，实现了最先进的生成质量（gFID 3.08），并在线性探测方面超越了它的老师 InternViT-300M（85.2\% vs. 82.5\%），证明结构对齐重建可以增强语义感知。代码可在 https://github.com/PanqiYang1/MUSE 获取。