论文
带自发现规格的智能体上下文学习
Agentic Context Learning with Self-Discovered Specification
摘要
上下文学习是一个新兴的推理时任务:LLM必须从预训练之外的复杂上下文中学习并应用新任务知识——即便前沿模型任务成功率也低于24%。本工作开展全面实证研究以理解该设定为何困难。自然假设是失败源于内容获取;但在广泛上下文学习基准CL-Bench上、跨十二个检索、反思与验证基线:相对直接全上下文提示的增益有限。进一步失败分析揭示关键发现:与长文档理解等典型长上下文任务不同,上下文学习不仅需要恢复局部内容,还需要获取局部规格——查询中常未指明、却分布在整个上下文中的领域格式、局部规则与完整性条件。跨全部31,592个量规条目:55.4%明确评估规格获取,仅22.6%评估内容获取;且尽管76.7%的规格在用户查询中未指明,95.5%可溯源到上下文——表明这些是可学习的义务而非隐藏要求。为验证该诊断,我们设计一个刻意简单的干预PSCI(私有规格契约归纳):抽取局部规格并经对抗检查与修复强制执行;PSCI以GPT-5.1在CL-Bench取得最先进的28.14%(绝对+5.59分、相对+24.8%),并在Qwen3.5-27B(+5.28分)与Gemini 3 Pro(+6.17分)上复现;十七项消融进一步隔离任务专属规格的作用。总体结果表明:上下文学习不仅取决于内容获取,也取决于规格获取。
