CANOPE：用规范词元监督弥补潜在预测文本表征的内容缺口

我们通过调查表示是否保留其输入中可用的有序目标信息来研究顺序内容充分性。信息论分解可分离输入模糊性、表示损失和 读出 不匹配。我们构造可恢复的视图，其中完美一致性和联合各向同性高斯性与零目标信息共存，并建立由确定性规范锚施加的限制。 token log-loss 提供了一种单方面的信息丢失界限；固定惩罚岭分析说明了为什么仅靠排名无法确定预测风险。这些结果激发了 CANOPE，一个具有有序潜在画布、规范 token 监督和几何正则化的非自回归框架。在 40,000 个验证序列上，潜在一致性 (PL0) 和 token-grounded (PL2) 具有几乎相同的合并排名，但在提供正确的目标长度时，在强烈的自然损坏下分别达到 13.5% 和 98.8% 的位置 召回率@1。在 3,930 个 LJSpeech 验证话语中，使用训练有素的 MatchaTTS 读出 的冻结 PL2 在损坏的文本上产生 21.54% 的字错误率 (WER)，而冻结 PL0 的字错误率 (WER) 为 99.22%，而端到端MatchaTTS 达到 10.93%。这些结果表明，仅几何规律性并不能保证此处研究的文本设置中可恢复的顺序内容或有效的下游访问。