论文

流量匹配零样本 TTS 中无分类器指导的联合残差重新加权

Joint Residual Reweighting for Classifier Free Guidance in Flow-Matching Zero-Shot TTS

模型推理解码与生成控制

摘要

无分类器引导(CFG)广泛应用于基于流匹配的零样本文本转语音(TTS),其中生成以文本内容和语音提示为条件。标准 CFG 使用单一指导权重来实现联合条件效果,而分支选择性指导则强调文本或说话人调节,并可以在文本准确性和说话人相似性之间引入权衡。在本文中,我们在独立屏蔽条件下重新审视 CFG,并将引导场分解为文本、说话者和联合残差。我们表明,特定条件的分支差异在共享权重下将联合残差与相应的文本或说话人残差耦合起来。轨迹分析进一步表明,联合残差随着流动时间的推移而变化,并且包含无法通过单独重新加权文本和说话者残差来表示的信息。基于这些观察,我们提出联合残差重新加权,为三个残差分配独立的权重。在三个评估集上对 F5-TTS、CosyVoice2 和 GLM-TTS 进行的实验表明,与默认 CFG 设置相比,无需重新训练,说话者相似度和文本准确性得到了整体改进。