论文
ReContext：递归证据重放作为长上下文推理的LLM测试框架
ReContext: Recursive Evidence Replay as LLM Harness for Long-Context Reasoning
摘要
理解与推理长上下文已成为在真实应用中部署大语言模型（LLM）的关键要求。虽然近期LLM支持日益增长的长上下文窗口——它们常无法使用输入中已存在的相关证据——揭示上下文访问与有效上下文利用之间的缺口。本工作中，我们提出递归证据重放作为长上下文推理的LLM测试框架（RECONTEXT）——改进长上下文推理的免训练推理方法。RECONTEXT使用模型内部相关性信号构建查询条件化的证据池——并在最终生成前重放该池——同时保留完整原始上下文。该递归选择过程在无训练、无外部记忆、无上下文修剪的情况下将证据组织与答案生成分离。我们还提供基于联想记忆的理论分析——将上下文刻画为记忆存储、问题为检索线索、注意力为线索-踪迹关联、重放为踪迹再激活。在8个128K上下文长度的长上下文数据集上的实验表明：RECONTEXT跨Qwen3-4B、Qwen3-8B与Llama3-8B持续改善证据利用——在全部三个骨干上取得最佳平均排名。代码见 https://github.com/Yanjun-Zhao/ReContext。
