论文

Continuous Interaction Diffusion:面向异步工具增强推理的扩散原生运行时

Continuous Interaction Diffusion: A Diffusion-Native Runtime for Asynchronous Tool-Augmented Reasoning

模型架构新型架构

摘要

大语言模型日益依赖外部工具来获取最新信息、执行计算并与外部世界交互。对自回归模型而言,工具调用天然契合其生成过程:模型发出工具调用,等待结果,然后继续生成。然而,扩散语言模型(dLLM)通过并行地反复精炼输出的多个部分来进行推理,这种停止-恢复式交互模式对它构成了不必要的限制:它可能在模型推理稳定之前就迫使工具决策,将有用观测延迟到离散调用结束,并引入冗余的精炼与工具执行,可能同时损害任务准确性与推理效率。我们提出连续交互扩散(CID),一种将工具交互融入迭代去噪的扩散原生模型-运行时架构。CID分离出模型只读的事实通道、由类型化认知张量(Typed Cognitive Tensor)表示的思维通道和一个显示通道。信息需求可以在文本或JSON调用完全序列化之前出现,使感知绑定能在去噪继续的同时启动外部读取。返回的结果被投影到不断演化的思维状态中,并可修订先前的认知与显示区域。持久绑定复用静态结果而无需重复外部执行,并在需要时刷新变化的源。CID旨在更早暴露证据、让工具延迟与模型计算重叠、减少重复外部工作,并在新证据到达后保留有用的计算。我们形式化了架构、运行时与训练目标,并定义了面向任务质量与端到端效率的评估协议。本首篇论文聚焦只读工具,不提出任何实证性能主张。