论文

SE-MoLoRA:用于特定领域摄影评估的共享专家 LoRA 适配器

SE-MoLoRA: Shared-Expert LoRA Adapters for Domain-Specific Photographic Assessment

模型训练参数高效训练

摘要

视觉语言模型可以流畅地描述图像,但它们常常无法提供可操作的摄影评论,因为语义内容和审美判断仍然纠缠在一起。我们提出了 SE-MoLoRA,这是一种用于特定领域摄影评估的模块化参数高效适应框架。该方法使用始终活跃的共享 LoRA 专家和用于构图、照明和技术质量的路由适配器,将一般摄影知识与专家剩余判断分开。轻量级查询路由器选择相关专家,无需训练单独的完整模型即可进行有针对性的批评。 64 级共享适配器捕获广泛的摄影词汇,而 32 级专家则通过正交正则化惩罚来学习特定领域的残差,从而鼓励解开表示。训练数据是通过将 Reddit 照片评论数据集提炼成领域标记的评论样本来获得的。在保留批评生成方面,SE-MoLoRA 比整体 LoRA 将 BERTScore-F1 从 0.2317 提高到 0.4215,并且在 84.6\% 的成对比较中更受青睐,同时使用的活动参数比单独的专业模型更少。基于 SVD 的消融研究表明,共享专家分解和正交正则化减少了专家重叠。这些结果表明,模块化适应提高了多模式摄影评论的可控性和特异性。