质量感知的跨模型计算重用

一个模型计算的中间结果可以被其他模型重用来执行其任务。现有的工作主要集中在实际执行上，在优化重用决策方面留下了理论空白。这种优化面临两个挑战：质量不确定性，因为重用对任务质量的影响在不同模型中是不确定的；以及耦合调度，因为任务需要分担准备可重用结果的成本。这些挑战相互交织：质量必须在线学习，但共享的准备结构使得即使在已知质量的情况下调度也是 NP 困难的，这打破了现有方法中的关键假设。我们将跨模型计算重用制定为在线决策问题，并开发质量感知重用调度（QARS）算法来解决它。对于质量不确定性，QARS 从选定的、可能延迟的反馈中了解任务相关的重用质量，并使用乐观的估计来指导决策。对于耦合调度，它共同选择要准备哪些结果以及哪些任务应该使用它们，从而使调度精度适应剩余的质量不确定性。对于所考虑的问题，我们的分析将后悔中的学习误差和优化误差分开，并量化了调度准确性和计算之间的权衡。完成质量感知停止规则会产生 $\widetilde O(\sqrt{T})$ 遗憾，同时保留可行性。实验证明了 QARS 在优化跨模型重用方面的有效性，与最强的调度基线相比，将计算成本和质量损失的综合成本最高降低18.0%，平均遗憾降低了 63.9%。