论文
Tool-MCoT：用于内容安全审核的工具增强多模式思想链
Tool-MCoT: Tool Augmented Multimodal Chain-of-Thought for Content Safety Moderation
摘要
在线平台和用户内容的增长需要强大的内容审核系统，能够处理来自各种媒体类型的复杂输入。虽然 大语言模型 (LLM) 很有效，但其高计算成本和延迟给可扩展部署带来了重大挑战。为了解决这个问题，我们引入了 Tool-MCoT，这是一种小型语言模型 (SLM)，针对利用外部框架的内容安全审核进行了微调。通过在 LLM 生成的工具增强思想链数据上训练我们的模型，我们证明 SLM 可以学习有效地利用这些工具来改进其推理和决策。我们的实验表明，经过微调的 SLM 取得了显着的性能提升。此外，我们表明模型可以学习有选择地使用这些工具，通过仅在必要时调用工具来实现调节准确性和推理效率之间的平衡。