论文

通过核心扩展路由与统一计算调度加速统一多模态模型

Accelerating Unified Multimodal Models with Core-Expansion Routing and Unified Computation Scheduling

模型推理推理加速

摘要

统一的多模态模型共同支持理解和生成,但会在词元、层和生成时间步长之间产生大量冗余计算。通过词元重要性探测,我们确定了一个不对称的核心扩展结构:理解表现出稳定的重要性成分,而生成很大程度上共享该成分,但需要依赖于进度的修正。因此,我们提出了 CE-Router,它使用任务共享核心评分器和进度条件生成扩展,通过生成分解和跨任务核心对齐进行优化。在推理时,CE-Router 压缩词元计算并向统一计算调度提供学习的路由信号,后者协调层跳跃、FFN 修剪、扩散头缓存重用和去噪步骤提前退出。在两个代表性 UMM 架构上进行的实验表明,这两项任务均实现了一致的质量效率改进,保留了 98.03% 的密集理解性能,端到端推理加速提高了 1.93$\times$。