论文

CoGR-MoE:具有一致选择和灵活推理的概念引导专家路由,用于视觉问答

CoGR-MoE: Concept-Guided Expert Routing with Consistent Selection and Flexible Reasoning for Visual Question Answering

摘要

视觉问答 (VQA) 要求模型根据视觉和文本证据识别正确的答案选项。最近的专家混合(MoE)方法通过对相似的概念进行分组或基于示例进行路由来改进选项推理。然而,不稳定的路由会导致同一题型的专家选择不一致,而过于稳定的路由又会降低灵活性。为了解决这个问题,我们提出了概念引导路由框架(CoGR-MoE),它结合了答案选项的语义来指导训练阶段的专家选择。接下来,选项特征用于重新加权所选专家,为每个候选选项生成有区别的表示。这些选项级表示进一步用于选项比较并通过对比学习进行优化。实验结果表明,CoGR-MoE 在多个 VQA 任务中表现出色,证明了我们方法的有效性。