作为最优控制的语言生成：潜在控制空间中的闭环扩散

这项工作将语言生成重新表述为随机最优控制问题，提供了一个统一的理论视角来分析自回归和扩散模型，并解释它们在轨迹奇异性、伴随状态消失和梯度缺失的组合方面的局限性（效率保真悖论、不可逆性误差传播、优化可处理性和保真度）。为了解决这些问题，我们近似求解 Hamilton-Jacobi-Bellman (HJB) 方程，从而产生充当闭环控制器的最优策略。为了绕过直接求解 HJB PDE 的棘手问题，我们采用流匹配作为修正潜在控制空间内的最佳轨迹求解器。这使得我们的带有全局积分算子的 Manta-LM 能够逼近全局向量场，有效地实现了同时实现高保真文本生成和高效、低成本并行采样的模型。根据经验，我们的方法在语言建模和条件生成任务上实现了强大的性能，同时表现出更高的稳定性、效率和可控性。