程序图：LLM Agent的自演化执行结构

大型语言模型越来越多地被部署为能够进行长期规划并通过外部工具执行操作的智能体。大多数智能体通过在不断积累的历史中不受约束的生成来选择行动，从而隐含了要做什么、以什么顺序以及在什么条件下做什么的程序知识。随着轨迹延长，智能体可能会失去目标、无序调用工具并重复无效的操作。我们介绍过程图：就像知识图将事实知识组织成（实体，关系，实体）三元组来解决“是什么”问题一样，过程图将过程知识组织成（过程，关系，过程）三元组来解决“做什么”问题。在每个决策步骤中，框架都会定位智能体的活动节点，并且指导模型将周围的子图转换为步骤级情境指导，从而在不指示的情况下对求解器的下一步行动产生偏差。该图是自我演化的：LLM 精炼器将失败的轨迹与成功的轨迹进行对比，并编辑图的拓扑和属性，提交编辑以保留或改进保留的验证性能，同时保留被拒绝的轨迹以阻止重复。从最小的骨架开始，循环构建匹配或超越手工设计的图表。它还可以事先修复有缺陷的专家。在多个数据集、任务类型和大语言模型中，程序图在基于内存的基线上提供了一致的增益，并且自我进化进一步提高了性能，无需手动工程。