Shapley上下文剪枝：合作博弈视角下的上下文重排与剪枝

上下文重排与剪枝已成为提升现代检索增强生成（RAG）系统效率的关键，但一个可解释且统一的框架仍待探索。既往工作主要强调词汇检索、交叉编码器架构、模型蒸馏与低秩适配（LoRA），大多依赖启发式损失函数与经验性归因。本文提出Shapley上下文剪枝（SCP），一个新颖的上下文重排框架：把上下文建模为合作博弈，为重要性归因建立合作博弈论视角。在细粒度与粗粒度表示之间权衡，我们采用Deep Sets架构在句子层面近似置换不变的价值函数，以预训练语言模型作句子嵌入器，用成对边际排序损失优化。为在不牺牲数学严谨性的前提下保证实用可扩展性，我们以蒙特卡洛采样实现高效训练与推理，为保持Top-K子集排序提供形式化的理论误差界与样本复杂度保证。我们开展全面实验——覆盖支持句召回、大海捞针（NIAH）、长上下文QA与多跳推理——并对嵌入质量与归因策略做严格消融。模型在与强基线对比中取得有竞争力的下游QA表现。