论文

C3-UniMM:通过超对齐与共享解码空间实现因果循环一致的统一多模态建模

C3-UniMM: Causal Cycle-Consistent Unified Multimodal Modeling via Super Alignment and Shared Decoding Space

模型架构新型架构

摘要

统一多模态模型旨在实现跨任意模态的任意理解和生成。然而,现有方法主要依赖于对隐式统计相关性进行建模,缺乏跨模态结构一致性约束。这种缺陷导致了深刻的问题,包括语义漂移、构图泛化不良以及干预下的不稳定。在本文中,我们提出了C3-UniMM,一种基于因果循环一致性和超级对齐的统一多模态建模框架。具体来说,我们引入了结构化潜在因果图(SLCG)作为共享的跨模态语义空间,并设计了统一的多模态编码块,使得理解和生成能够在相同的因果语义结构中协同优化。此外,我们提出了一个统一解码空间,以在跨模态生成过程中强制结构保留和语义可逆性。理论分析表明,我们的方法显着增强了跨模态映射的可逆性和机制不变性。跨多个理解、生成和组合泛化任务的广泛实验结果表明,C3-UniMM 大大优于现有的统一多模态基线。

C3-UniMM:通过超对齐与共享解码空间实现因果循环一致的统一多模态建模:论文配图
图1:不同结构的比较。(A组)自动递减模型:利用顺序象征性预测和象征性相关性,这很容易累积语义漂移。 (B组)基于扩散的模型:对统计共发事件进行反射以产生高虚度输出,但缺乏明确的内部代表空间。 (C组) C3-UniMM(我们):结构化的延迟剖面图(G)和超级对齐以整合多式输入。它利用统一解码空间和周期一致性确保结构完整和高度忠诚的一代