论文

EvoIR-Agent:通过经验驱动学习的自我进化图像恢复代理系统

EvoIR-Agent: Self-Evolving Image Restoration Agentic System via Experience-Driven Learning

上下文与知识记忆Agent记忆

摘要

多模态 大语言模型 (MLLM) 驱动的图像恢复代理通过灵活选择工具和确定去除顺序,展示了退化耦合场景中的有效性。然而,如果没有经验,其零样本规划往往会失败,需要大量的试错开销才能获得满意的结果。目前,采用两种范式来解决这个问题,但仍然存在一个困境:基于训练的方法将内在经验嵌入到参数中,实现了较高的推理效率,但缺乏与新工具或退化的兼容性。相比之下,无需训练 方法利用显式经验存储来实现兼容性,但由于幼稚的经验仍然会产生试错开销。为了解决这个困境,我们提出了EvoIR-Agent,它首先系统地制定了无需训练图像恢复代理的体验组件。随后,构建了分层经验池,可以对不同的工具和移除顺序进行从粗到细的指导。此外,还引入了自进化机制,使用累积的记录从头开始更新池,从而大大提高了性能和效率。大量实验表明,EvoIR-Agent 在完整参考指标中取得了显着领先,并产生了帕累托最优平衡,其性能优于最先进的方法,效率提高了 61%。