经微调任务嵌入的语义适配器路由

参数高效微调（PEFT）造就了单一骨干配大量任务专属适配器的模型生态。给定此类库——路由旨在为用户查询选择最合适的适配器。虽然既有适配器路由器通常需要访问适配器权重或监督训练——我们开发使用任务嵌入的免训练语义适配器路由方法。在ARIADNE中——我们把适配器选择重构为分类问题：PEFT适配器由任务嵌入表示——无标签查询被路由到编码器潜空间中最近的适配器。在23个任务上评估——ARIADNE恢复97.4%的神谕任务性能——并扩展到44个适配器、89.7%选择准确率——不触碰任何适配器参数。但适配器来自公共枢纽或第三方提供商时——ARIADNE所需训练数据可能不可得。为克服该局限——我们引入GRACE——经修改的对比解码差分（CDD）程序仅从适配器输出logits恢复其微调数据。由CDD-UM生成的合成数据随后用于构建任务嵌入。跨三个骨干（Llama-3.2-1B、Qwen2.5-3B、Qwen2.5-32B）——GRACE恢复72-100%的神谕任务准确率——在69个任务/骨干组合中的48个上匹敌或超越ARROW——同时既不需要训练数据也不需要模型权重。总体而言——我们证明微调任务嵌入为语义适配器路由提供精确高效路径。