论文
DAK-UCB:LLM 和生成模型的多样性感知提示路由
DAK-UCB: Diversity-Aware Prompt Routing for LLMs and Generative Models
摘要
生成式 AI 和 LLM 服务的扩展凸显了对自适应机制的日益增长的需求,以选择合适的可用模型来响应用户的提示。最近的工作提出了离线和在线学习公式来确定输入提示的最佳生成人工智能模型,仅基于最大化基于提示的保真度评估分数,例如文本到图像生成中的 CLIP-Score。然而,这种基于保真度的选择方法忽略了生成的输出的多样性,因此,它们可能无法解决生成的响应中潜在的多样性缺陷。在本文中,我们介绍了多样性感知核化上置信界(DAK-UCB)方法作为上下文强盗算法,用于在线选择考虑多样性的生成模型。所提出的 DAK-UCB 方法将保真度和多样性相关指标纳入选择过程。我们基于提示感知多样性评分函数设计了这个框架,该函数在前几轮中分解为基于两个样本的提示输出对的期望。具体来说,我们使用联合核距离和核熵度量来说明我们的框架的应用。我们的实验结果证明了 DAK-UCB 在促进多样性感知模型选择方面的有效性,同时保持了一系列提示的代际保真度。代码可在 https://github.com/Donya-Jafari/DAK-UCB 获取。