不要等待回复：通过主动思考实现反应灵敏且深思熟虑的对话

思考已成为 大语言模型 (LLM) 处理复杂任务的关键能力。然而，其反应性质（仅在收到用户响应时被动触发推理）不可避免地会引入延迟，从而损害对话的流畅性。这与人类对话形成鲜明对比，在人类对话中，发言者在自然停顿期间主动预测和计划未来的内容，以确保无缝交互。为了弥补这一差距，我们提出了主动思维，这是一个框架，使模型能够在对话停机期间预先计算潜在的响应元素，而不是无所事事地等待下一个输入。然后，我们引入 无需训练 基线，该基线可以通过预测未来状态来进行超前思考，通过推测性的持续思考来平衡效率和质量。为了在实践中评估这种方法，我们将三个不同复杂度的基准调整到模拟实时对话流的时间感知环境中。我们证明，主动思维可以有效提高交互效率而不影响性能。最终，这项工作提倡从根本上转向更智能、更具预见性和实时的对话式人工智能。