论文
EntroRouter:通过熵调节学习高效模型路由
EntroRouter: Learning Efficient Model Routing via Entropy Regulation
摘要
模型路由通过在不同功能的模型之间进行选择来平衡解决方案的准确性和计算成本。虽然最近的多轮框架将推理和规划交织在一起,但我们确定了一种称为“信任区域崩溃”的结构性故障模式。我们证明了推理和路由的深度耦合,由于稀疏监督下强 预训练 先验的主导地位而加剧,导致退化的局部最优,有能力的专家被系统地抑制。为了解耦这些过程,我们提出了 $\textbf{EntroRouter}$,一个以熵调节为核心目标的单轮路由框架。我们首先通过软监督初始化策略,拟合合适模型的分布以建立用于探索的高熵先验。随后,我们使用软锚来稳定强化学习,它利用离线能力估计来协调安全信任区域内的受控熵收缩。大量实验表明,EntroRouter 保留了最强专家 98.3% 的准确率,同时将计算成本降低了 48.25%。