ARSM：Agentic 推理压缩的自回归状态机

虽然基于大语言模型（LLM）的智能体通过将推理与外部环境交互交错而在长期任务中表现出强大的能力，但上下文的持续积累迅速造成了关键的内存瓶颈。现有的内存压缩方法依赖于特定于任务的优化或外部辅助模型，引入了大量的计算开销。此外，由此产生的压缩表示往往会失去结构化关系，导致信息稀释、注意力崩溃和决策一致性下降。为了解决这些限制，我们提出了自回归状态机（ARSM），这是一种轻量级的免训练框架，可以通过结构化状态演化实现原位推理压缩。 ARSM 引入了两个关键组件：（i）轨迹抽象机制，将交互历史重组为紧凑的假设-行动-结果（HAR）微链； (ii) 动态状态机，通过原子操作和压缩控制参数来调节分层存储器。这些组件统一在一个自回归、自压缩的生成空间中，其中每个模型输出共同执行外部动作执行和内部状态更新。我们在 Webshop、多目标多跳 QA 和 SWE-Bench Lite 数据集上评估 ARSM。实验结果表明，ARSM 在保持任务性能的同时减少了词元消耗，为长期任务的可扩展自主Agent提供了一条实用且经济有效的途径。