论文

认知伴侣:面向LLM智能体推理退化检测与恢复的轻量并行监控架构

The cognitive companion: a lightweight parallel monitoring architecture for detecting and recovering from reasoning degradation in LLM agents

智能体系统Agent 动作执行与治理

摘要

大语言模型(LLM)智能体在多步任务中会出现推理退化、循环、漂移与卡死,在困难任务上发生率高达30%。现有方案包括硬性步数上限(过于生硬)或LLM-as-judge监控(每步10-15%开销)。本文提出认知伴侣(Cognitive Companion),一种并行监控架构,包含两种实现:基于LLM的伴侣与新颖的零开销、基于探针(Probe)的伴侣。我们报告一项以Gemma 4 E4B为中心的三批次可行性研究,并对Qwen 2.5 1.5B和Llama 3.2 1B进行了额外的探索性小模型分析。实验中,基于LLM的伴侣以约11%的开销将易循环任务上的重复减少了52-62%。基于第28层隐藏状态训练的探针伴侣在零测量推理开销下平均效应量达+0.471;其最强的探针结果在小规模代理标注数据集上取得交叉验证AUROC 0.840。一项关键实证发现是伴侣收益呈现任务类型依赖:伴侣在易循环和开放式任务上最有帮助,而在更结构化的任务上效果为中性或负面。小模型实验还提示可能存在规模边界:即便干预被触发,伴侣也未改善1B-1.5B模型上测得的质量代理指标。总体而言,本文应被视为可行性研究而非决定性验证。结果提供了令人鼓舞的证据,表明子词元(sub-token)监控可能有用,指出任务类型敏感性是实际的设计约束,并提示选择性伴侣激活是未来工作的有前景方向。

认知伴侣:面向LLM智能体推理退化检测与恢复的轻量并行监控架构:论文配图
图 1:显示三组件 Cognitive Companion 架构的系统概览。主代理执行推理步骤,而伴随观察者监视认知状态,干预处理程序在检测到退化时注入指导。