开源项目

llama.cpp加入可保留原记录的会话上下文压缩

UI conversation compaction

上下文与知识上下文工程

概述

llama.cpp的聊天界面增加完整的手动会话压缩流程。用户输入/compact,或在上下文仪表弹窗点击Compact,由当前模型总结此前对话;接下来发送给模型的是摘要而非全部历史,从而释放上下文容量。原有完整消息继续留在界面中,可以浏览,摘要作为可折叠卡片呈现。 摘要提示词可在设置中修改,因此使用者可以按任务保留约束、决定和必要事实。这次交付仅含手动触发,接近上下文上限时的自动压缩被明确留作后续独立变更。未报告固定压缩率、质量提升或长任务成功率,不把减少token等同于无损记忆。代码为MIT。