Fast-dVLA：将离散扩散 VLA 加速到实时性能

本文提出了一种新方法来解决预训练 VLA 模型在标准监督微调（SFT）过程中通常无法有效提高性能并降低适应成本的挑战。一些具有辅助训练目标的高级微调方法可以提高性能并减少收敛步骤数。然而，由于辅助任务的额外损失，它们通常会产生大量的计算开销。为了同时实现辅助训练的增强能力和标准 SFT 的简单性，我们在参数空间内解耦辅助任务训练的两个目标，即增强一般能力和拟合特定任务的动作分布。为了实现这一目标，我们只需要使用两种不同的训练策略来训练模型收敛于小规模任务集。然后，所得模型参数之间的差异可以解释为辅助任务提供的能力向量。然后将这些向量与预训练的参数合并以形成能力增强的元模型。此外，当使用轻量级正交正则化损失增强标准 SFT 时，合并模型获得的性能可与辅助微调基线相当，同时减少计算开销。实验结果表明，这种方法在不同的机器人任务中都非常有效。项目页面：https://chris1220313648.github.io/Fast-dVLA/