从故障分类到干预：视频和直播平台审核中行业规模 AVLM 的诊断方法

行业规模的视频和直播审核提出了通用的预训练公共模型或外部 API 难以满足的要求，包括适应特定于平台的数据分布、特定于政策的目标和产品级安全约束。因此，平台必须进行内部模型开发，自然而然地转向共享的公共研究作为指导。然而，现有的多模式基础模型研究主要报告架构、训练配方、数据扩展策略和基准结果，但对于如何定位故障并将其转化为有针对性的模型开发干预措施提供的系统性指导较少。干预措施至关重要，因为部署失败很少是不言自明的。类似的故障可能源于不同的原因。如果没有有针对性的干预措施，改进就会沦为启发式试错，基准改进的可归因性很弱，失败也很难追溯到其根本原因。为了解决这一差距，我们提出了一种用于行业规模视听语言模型 AVLM 开发的诊断方法。该方法将模型故障映射到可观察故障特征的分类中，并将每一类故障与干预空间联系起来。我们在大型视频和直播平台的 AVLM 基础模型的开发和调整生命周期中实例化了这种方法。由此产生的系统支持 100 多个区域，专为从全球平台流量中提取的嘈杂、模糊且高度多样化的内容而设计。