SLIM：单纯形格插值合并

优化大语言模型的合并系数可能需要许多昂贵的基准评估。我们提出 Simplex-Lattice Interpolation Merging (SLIM)，它使用经典的混合设计在系数单纯形上构造聚合性能的二次替代。对个别专家和等权对的评估确定了具有识别该域上的一般二次方程所需的最少测量次数的替代项。然后，SLIM 优化代理，无需进一步的目标度量评估。对两种模型架构的实验证明了在有限的评估预算下对未见过的多专家混合和有竞争力的合并性能的准确预测。匹配预算比较表明，结构化评估点比随机设计（包括使用正则化拟合的设计）提高了预测保真度。