论文
ToolFG:迈向坚实的细粒度图像分类
ToolFG: Towards Well-Grounded Fine-Grained Image Classification
摘要
细粒度图像分类(FGIC)具有广泛的应用,并引起了广泛的研究关注。在本文中,我们通过提出 \textbf{ToolFG} 来探索解决 FGIC 的新范例,这是第一个针对 FGIC 量身定制的基于 MLLM 的工具集成框架。 ToolFG 使 MLLM 能够在推理过程中自主、灵活地使用外部工具,主动与图像交互,并收集可验证的视觉线索,以更 \textit{reliable} 和 \textit{well-grounded} 的方式区分高度相似的类别。为了使模型具备这种工具使用能力,我们设计了一种新颖的 \textbf{MCTS 引导工具使用 知识蒸馏 机制},它可以从 模型训练 的先进专有 MLLM 中有效地挖掘工具使用和 FGIC 相关知识。此外,我们提出了一种 \textbf{模型-工具协同进化机制},共同细化工具集和模型的工具使用策略,推动它们走向相互适应和 FGIC 专业化的状态。大量的实验证明了我们框架的有效性。