跨会话边界的上下文学习状态交接

本研究考察使用大语言模型的应用中会话交接的方法论与理论性质。当上下文达到模型输入上限、应用重启或交给另一个智能体继续完成任务时，任务可能在新会话中继续。此时应用必须决定传递早前会话中的哪些信息。我们将交接形式化为任务相关的上下文学习（ICL）状态迁移，并区分对早前材料的精确恢复与对目标分布的保持。在外生性条件下，预测等价性刻画了最粗的确定性充分交接，并给出固定长度的比特需求。该分析分离了记忆约束、写入者和续写过程的影响，并量化了在尚不知晓实际下游查询时就进行写入的代价。我们提出一个三部分记录方案：精确存储决策与约束、对重复证据使用任务上有依据的统计量、保留那些其效应不被这些统计量保留的原始观测。高斯线性回归给出精确的有限维交接与有限比特扰动界，而非参数回归给出将记忆与平方预测误差联系起来的上下界。这些结果为决定交接必须保留什么、以及记忆需求如何依赖续写任务提供了理论与方法。