基于选择的结构化推理：迈向高效的多模态搜索Agent

多模态Agent通常在每个动作之前生成自由形式的推理。对于小型模型，有限的模型容量可能会导致冗长的推理，几乎无法为动作生成提供有用的指导，同时会产生大量的推理成本。为了应对这一挑战，我们引入了基于选择的结构化推理（SSR），这是一个将推理重新表述为选择而不是开放式生成的框架。 SSR 将重复出现的高级推理表示为预先指定的、可重用的自然语言候选者。在每一轮，模型都会根据给定当前上下文的可能性从这些推理候选者中进行选择，而不需要辅助任务头。使用预先指定的推理跟踪可以实现并行评分，其中教师强制预填充使用共享上下文 KV 缓存在候选者内部和候选者之间同时计算标记可能性。我们使用 2B 和 4B 模型在七个多模态搜索基准上评估 SSR。跨越多个强化学习目标和监督微调，SSR 可在不牺牲任务性能的情况下显着提高效率。 SSR 的平均成功率可与同规模的领先搜索Agent相媲美，同时将每轮推理延迟降低 90% 以上，将每问题模型推理总延迟降低 28-54%。项目页面：https://zfy0314.github.io/ssr-webpage/.