提升面向系统优化的Agentic AI的连贯性与持久性

设计高性能的系统启发式方法是一个创造性的迭代过程，需要专家提出假设并执行多步骤的概念转换。尽管大语言模型（LLM）在自动化这一循环方面展现出前景，但由于两种关键失效模式——进化邻域偏差（evolutionary neighborhood bias）与连贯性上限（coherence ceiling）——它们在复杂系统问题上举步维艰。进化方法往往因依赖标量基准分数而困于局部最优，在需要协调多步骤改动时便会失败。相反，现有的agentic框架会在长时程中出现上下文退化，或无法在多次独立运行间积累知识。我们提出Engram，一种agentic研究者架构，通过将长时程探索与单一上下文窗口的约束解耦来解决上述局限。Engram将探索组织为一系列智能体，由它们迭代地设计、测试和分析机制。在每次运行结束时，智能体会把代码快照、日志和结果存入持久的Archive，并将高层次的建模洞见提炼为紧凑且持久的Research Digest。后续智能体随后从全新的上下文窗口出发，通过阅读Research Digest在先前发现的基础上继续推进。我们发现，Engram在多云组播（multi-cloud multicast）、LLM推理请求路由，以及优化支持自然语言查询的数据库中的KV cache复用等多种领域均展现出优越性能。