论文

CoMIC:云边系统中长程LLM智能体的协作记忆与洞见循环

CoMIC: Collaborative Memory and Insights Circulation for Long-Horizon LLM Agents in Cloud-Edge Systems

上下文与知识记忆Agent记忆

摘要

将轻量级大型语言模型(LLM)智能体部署在边缘服务器上可以降低延迟,使智能体服务更贴近用户,但资源受限的边缘模型在需要持久记忆、子目标跟踪和反思的长程任务上往往表现吃力。部署后对边缘模型进行微调成本高昂,且难以在异构节点间扩展,而纯本地记忆则使智能体经验相互孤立、提示上下文不断膨胀。我们提出CoMIC,一个无需参数更新的云边协作记忆与洞见循环(Collaborative Memory and Insights Circulation)框架。CoMIC遵循“集中反思、分散执行”的设计:边缘智能体使用面向子目标的分层记忆和相关历史的选择性再展开在本地执行,而云端LLM评论者异步评估已完成的轨迹,过滤可复用经验,并以语义子目标标识符为键聚合跨智能体指导。在横跨符号规划与文本交互的五个长程智能体任务上,CoMIC提升了弱势边缘智能体的进度率和动作与环境对齐能力,并在不更新模型参数的情况下带来视任务而定的成功率增益。

CoMIC:云边系统中长程LLM智能体的协作记忆与洞见循环:论文配图
图 1:CoMIC 的系统架构和工作流程。边缘将长期任务组织成子目标片段,与环境交互,并维护分层本地记忆。完成的轨迹异步上传到云端以进行评估和聚合。云使用轨迹级反射来接纳证据,并返回选定的全球指导作为后续事件的单一咨询渠道,而不会中断正在进行的执行。