论文
当意义传播时：混合 MoE 在语言模型惯用语理解中的作用的细粒度镜头
When Meaning Travels: A Granular Lens on Hybrid-MoE's Role in Idiomatic Understanding for Language Models
摘要
在当今多语言教育时代，学习习语提供了通往创造力、文化价值观、历史背景和各种语言传统固有的多样化观点的迷人门户。本文展示了在印地语、孟加拉语和泰语等资源匮乏的东南亚语言中保留比喻和文化语义的导航，这些语言中文化丰富的习语由于其深刻的隐喻复杂性而对计算建模和跨语言迁移构成了重大障碍。为了解决这种复杂性，我们提出了 Varnika，一个重建的多模态习语语料库，包含 3,533 个多语言习语，丰富了与文本和视觉表示一致的七种惯用语气。此外，为了推断信息丰富的惯用理解，我们引入了一种混合专家混合（HybridMoE）框架，该框架嵌入多个惯用专家意见，同时通过受控杂交整合选定和未选定专家的输出来减轻专家稀疏性，并通过屏蔽多模态嵌入进一步增强惯用属性信号。为了分析多个维度的表现，我们提出了 IDIO-TONE 和惯用验证分数，这是一个三阶段评估流程，测量 (i) 直译保真度、(ii) 视觉语义对齐和 (iii) 惯用意义保留。实证评估强调，HybridMoE 在高级视觉语言模型中实现了 5--6\% 的性能提升，展示了多语言多模式环境中比喻语言和文化嵌入含义的改进表示