论文
SafeLens:经过深思熟虑且高效的视频护栏,具有快慢筛选功能
SafeLens: Deliberate and Efficient Video Guardrails with Fast-and-Slow Screening
摘要
在线视频平台和人工智能生成内容的快速增长使可靠的视频护栏成为安全和实际部署的关键挑战。虽然大多数视频可以通过快速模式识别进行筛选,但一小部分视频需要对时间复杂的内容和细致入微的政策约束进行更深入的推理。现有方法通常依赖于在所有输入中统一应用的大型视觉语言模型,导致推理成本高和计算分配效率低。我们提出了 SafeLens,这是一种视频护栏框架,它引入了快速和慢速的推理架构,可实现高效、准确的内容审核,并在输入之间具有可变的计算成本。此外,我们通过对 SafeWatch 数据集应用影响引导过滤来构建高质量的数据集,仅保留原始数据的 2.4%。为了进一步解决训练时间扩展的限制,我们通过使用结构化的思想链跟踪来增强过滤后的数据,从而实现测试时间推理。在现实世界和人工智能生成的视频基准测试中,SafeLens 实现了最先进的性能,优于强大的开源视频护栏(例如 SafeWatch-8B、OmniGuard-7B)和闭源模型(例如 GPT-5.4、Gemini-3.1-pro),同时显着降低了推理成本,证明高效设计比单独扩展数据或模型大小更有效。