EvolveScaler：通过可执行状态机和自然语言渲染合成信息演化上下文

在持久的交互中，长上下文可能会编码一个不断发展的过程，而不是一个固定的记录：后来的事件可以修改或撤销早期的信息，改变仍然有效的内容以及随后得出的结论。我们将这种设置称为信息进化（IE）。解决 IE 需要识别有效记录，按顺序应用更新，并从事件历史记录中重建与查询相关的状态。现有的文本优先合成管道使得此类数据难以验证，因为状态转换和答案逻辑仍然是隐式的。我们引入了 EvolveScaler，一个代码驱动的框架，它在将信息呈现为自然语言之前定义信息演化。人工编写的操作规范定义了状态转换、记录有效性、难度控制和可执行答案逻辑；然后，强大的大语言模型根据每个规范合成一个独立的模拟器。执行经过验证的模拟器会生成自然语言的多轮事件历史记录，而确定性重播则会计算参考答案和原子检查表。我们使用 117 个任务原型和 159 个最终问题运算符实例化 EvolveScaler，跨越五个难度级别，每个实例涵盖大约 7 到 1,200 个事件，产生大约 35,100 个训练示例和 585 个经过验证的评估实例。在very_long 层，最强模型达到 59.3% avg@5，而 6 个模型得分低于 10%。在 6,000 个 EvolveScaler 示例上训练内部 A3B 模型可在所有八个独立构建的分布外基准上提高其基本检查点的性能，平均增益为 5.25 点。这些结果表明，代码驱动的 IE 综合提供了具有挑战性的评估和可转移的训练监督。