请问您要点什么？蒙特卡洛树搜索求解扩散语言模型中的槽填充顺序

摘要

尽管掩码扩散模型（Masked Diffusion Models，MDM）的 plan-and-infill 解码在数学与代码推理上展现出潜力，其性能仍对槽填充顺序高度敏感，常带来显著的输出方差。我们提出 McDiffuSE，该框架将槽位选择形式化为决策问题，并通过蒙特卡洛树搜索（Monte Carlo Tree Search，MCTS）优化填充顺序。McDiffuSE 利用前瞻模拟在提交前评估部分完成结果，系统性地探索生成顺序的组合空间。实验显示，其相较自回归基线平均提升 3.2%，相较基线 plan-and-infill 提升 8.0%，其中在 MBPP 上提升 19.5%，在 MATH500 上提升 4.9%。我们的分析表明，虽然 McDiffuSE 以顺序填充为主，但纳入非顺序生成对实现最佳性能至关重要。我们观察到，要克服模型置信度偏差并发现有效顺序，需要更大的探索常数，而非增加模拟次数。这些发现确立了基于 MCTS 的规划作为提升 MDM 生成质量的有效方法。

请问您要点什么？蒙特卡洛树搜索求解扩散语言模型中的槽填充顺序 — 图1：McDiffuSE 概览。我们将槽位选择表述为一个通过蒙特卡洛树搜索（Monte Carlo Tree Search）优化的序贯决策过程。如 Statistics 框所示，模型的贪婪先验（P(a=1|s_0)=0.37）倾向于立即生成函数定义（即槽位 2：“def get_max_length(words):”）。然而，通过前瞻模拟，搜索算法发现以语法声明开始（即槽位 1：“```python”）能产生更高的长期 Q 值（即槽位 1 的 Q(s_0,a=1)=1.20，而槽位 2 的 Q(s_0,a=2)=0.88），使模型能够覆盖有偏的局部先验并确保全局连贯性。