VDAR-Router：通过语言化查询难度分析检索的自适应 LLM 路由

大语言模型在实际系统中的应用越来越多，有效的模型选择对于降低部署成本非常重要。 LLM 路由已成为一种实用的解决方案，用于在所需的成本性能权衡下将每个输入查询分配给适当的模型。现有的路由方法通常根据输入查询的表面语义或嵌入相似性来估计模型的适用性。然而，此类方法可能会忽略查询的潜在难度，从而导致次优的路由决策。为了应对这一挑战，我们提出了 VDAR-Router，一种基于难度感知的检索路由框架。对于每个输入查询，VDAR-Router 首先生成显式难度分析。然后，它检索具有相似难度概况的历史示例。根据检索到的记录，它估计候选模型的适用性，并使用考虑性能和成本的奖励函数选择模型。对三个数据集的实验表明，VDAR-Router 始终比现有基准实现更好的性价比权衡。这些结果证明了 无需训练 LLM 路由的难度感知检索的有效性。案例研究进一步表明，显式查询分析有助于检索更多相关示例并支持更可靠的路由决策。