论文

上下文作为推荐:上下文工程的进化协同过滤

Contexting as Recommendation: Evolutionary Collaborative Filtering for Context Engineering

上下文与知识上下文工程

摘要

大语言模型 (LLM)对其输入上下文高度敏感,从而推动了自动化上下文工程的发展。然而,现有方法主要将其视为全局搜索问题,寻求单一上下文策略来最大化整个数据集的平均性能。这种限制性假设忽视了这样一个事实,即不同的输入通常需要不同的指导,从而导致实例级性能的显着提升尚未得到利用。在本文中,我们通过将上下文工程表述为推荐问题来提出范式转变。我们引入了 \textbf{神经协作上下文工程(NCCE)},这是一个将优化从静态全局搜索转变为动态、实例级路由的框架。 NCCE 首先引导不同的锚上下文目录,然后采用一种新颖的 \textbf{Context-CF Co-Evolution} 机制。此阶段建立了一个协同反馈循环:轻量级神经协同过滤 (NCF) 模型学习实例上下文偏好以指导专门上下文变体的生成,而新评估的上下文则不断完善 NCF 模型对潜在偏好的理解。在推理时,经过训练的 NCF 模型充当上下文路由器,为每个未见过的实例动态分配最合适的上下文策略。理论证明和综合实验表明,通过将单个输入与其最佳上下文相匹配,NCCE 显着提高了任务准确性,凸显了个性化在 LLM 上下文工程中的至关重要性。