利用进化作为学习：自我改进个人Agent的近似、泛化和优化限制

随着大语言模型（LLM）的能力不断进步，越来越多的注意力转向如何将其能力转化为有用的行为。个人Agent将这个问题带入日常环境中，模型应该为个人用户提供服务并不断适应他们的偏好。在底层模型保持固定的情况下，这种适应依赖于Harness工程：设计和发展管理上下文、内存、工具和执行的周围层。尽管进展迅速，但控制有效Harness演变的因素仍然不够了解。为了缩小这一差距，我们通过互补的经验和理论分析研究了有关Harness架构、Harness规模和自我进化算法的三个核心问题。根据经验，我们引入了一个以偏好为导向的基准，并系统地描述了与这三个维度相关的个人Agent的能力和局限性。从理论上讲，我们将Harness进化表述为一个学习问题，并通过近似、泛化和优化误差来解释这些现象。对可达策略、有限交互证据下的容量以及有偏差的更新动态的分析提供了对观察到的现象的理论解释。总之，这些结果为通过Harness进化实现个性化的局限性提供了统一的视角，并为未来的Harness设计提供了信息。