首先被揭露的是什么？图文生成扩散模型的轨迹分析

我们首次系统地研究了用于图形到文本生成的掩码扩散语言模型（MDLM）。我们分析了 MDLM 生成轨迹（迭代解码期间标记被揭开的顺序），并发现与线性生成文本的自回归 LLM 不同，MDLM 自然会首先优先考虑实体，然后是关系词和功能词，最后解析结构标记。我们进一步确定了监督 微调 的先前未记录的故障模式：SFT 通过在解码轨迹的早期锚定结构句子结尾标记来破坏该策略，从而有效地固定可能导致遗漏或幻觉信息的输出长度。为了解决这个问题，我们提出了 lambda 缩放结构解码，这是一种 无需训练 推理时间修改，可以降低结构词元置信度并恢复 +9.4 BLEU-4。最后，我们介绍 Graph-LLaDA，它将 Graph Transformer 编码器集成到 LLaDA 的解码过程中，以显式地合并关系图结构。 LAGRANGE 上的跨数据集评估表明，以前的基线过度拟合数据集特定的模式，而基于 LLM 和 MDLM 的方法泛化效果明显更好。