vLLM修正结构化输出与推测解码叠加时的采样偏移

vLLM此前在结构化输出路径中过早裁掉语法不合法的草稿token，改变推测验证的候选位置，产生与非推测采样显著不同的分布。新逻辑保留必要的无效位置交给拒绝采样，并让XGrammar与Guidance的失败接受操作原子回滚，避免污染语法状态。 作者以相同提示和正则语法各采样4000次，报告主线差异显著、修正后不显著，并提供501项核心及结构化回归和9项端到端检查。在一张H100的Qwen3-4B配置上，同步路径约有2%吞吐损失，异步高并发部分场景约有2%至3%提升；不能概括所有模式都加速。