不断发展的缓存调度以实现快速扩散策略推理

扩散策略通过迭代地对动作块进行去噪来实现强大的视觉运动控制，但重复的去噪使得实时部署的计算要求很高。基于缓存的方法通过重用中间激活来降低推理成本，但现有的 无需训练 调度通常跨块均匀分配计算，忽略跨块的异构冗余并导致性能效率权衡不理想。为了弥补这一差距，我们引入了进化缓存调度（EVO），这是一个 无需训练 加速框架，可通过进化搜索全局调度缓存刷新。 EVO 将每个候选者表示为块时间步格上的完整时间表。因此，可以通过缓存重用来跳过迭代降噪期间的冗余 Transformer 计算，同时保留闭环转出性能。为了使搜索实用，EVO 引入了冗余感知初始化，它为群体提供了有希望的时间表，并引入了目标条件提前停止，一旦达到所需的性能目标，它就会验证并终止。离线优化的计划可以直接插入预训练的扩散策略中，无需重新训练。广泛的操作基准测试表明，EVO 保留了接近完整的性能，同时大幅减少了计算，实现了高达 8.05 倍的动作生成加速，并将 FLOPs 从 15.77G 减少到低至 1.96G。源代码可在 https://github.com/pilom/EVO 获取。