均匀离散扩散语言模型是否需要时间条件

均匀离散扩散模型（UDM）通常使用显式时间条件，但我们发现在实践中通常是不必要的。在本文中，我们首先表明群体最优 UDM 预测器通常取决于时间：时间控制模型应该信任观察到的上下文的程度。然后我们证明，在与语言相关的有限数据设置中，这种依赖性可以忽略不计。当损坏的训练序列比竞争训练序列更接近其原始干净序列时，经验最优预测器对大部分扩散轨迹上的时间几乎不敏感，其中保证向高噪声端点减弱。根据经验，经过训练的语言 UDM 在大部分轨迹上表现出有限的时间敏感性，而与时间无关的预测器在数据集和训练目标上仍然与时间条件模型保持竞争，并且通常优于时间条件模型。这些结果对 UDM 中显式时间调节的使用提出了挑战：尽管群体最优取决于时间，但在实践中对其进行显式调节通常是不必要的。