论文

TIR-Agent:训练一个探索性且高效的图像恢复代理

TIR-Agent: Training an Explorative and Efficient Agent for Image Restoration

智能体系统Agent 工具调用

摘要

编排用于图像恢复 (IR) 的专用工具的视觉语言代理已成为一种有前景的方法,但大多数现有框架都以 无需训练 方式运行。它们依赖于启发式任务调度和详尽的工具遍历,导致次优的恢复路径和高昂的计算成本。我们认为核心瓶颈在于缺乏学习策略来做出决策,因为视觉语言模型无法有效地处理退化感知的任务排序和工具组合。为此,我们提出了 TIR-Agent,这是一种可训练的图像恢复代理,它通过监督 微调 (SFT) 和强化学习 (RL) 的两阶段训练管道执行直接工具调用策略。两个关键设计支持有效的 RL 训练:(i) 应用于 SFT 数据的随机扰动策略,这扩大了策略对任务计划和工具组合的探索;(ii) 多维自适应奖励机制,动态重新加权异构图像质量指标以缓解 奖励作弊。为了支持训练过程中高吞吐量、异步的基于 GPU 的工具调用,我们进一步开发了一个全局共享的模型调用池。域内和域外降级实验表明,TIR-Agent 的性能优于 12 个基线,包括 6 个一体化模型、3 个 无需训练 代理和 3 个专有模型,并通过消除冗余工具执行实现超过 2.5 \倍的推理加速。