论文

CutClaw:通过音乐同步进行长达数小时的代理视频编辑

CutClaw: Agentic Hours-Long Video Editing via Music Synchronization

应用与实践内容创作

摘要

将视频内容与音频对齐进行编辑,形成了当前社交媒体中的数字人造艺术。然而,手动视频编辑的耗时和重复性长期以来一直是电影制作人和专业内容创作者面临的挑战。在本文中,我们介绍了 CutClaw,这是一个自主多代理框架,旨在将长达数小时的原始素材编辑成有意义的短视频,该框架利用多个多模态语言模型(MLLM)作为代理系统的功能。它制作的视频带有同步音乐、随后的说明和视觉上吸引人的外观。具体来说,我们的方法首先采用分层多模态分解,捕获视觉和音频片段中的细粒度细节和全局结构。然后,为了确保叙事的一致性,编剧代理会协调整个故事讲述流程并构建长期叙事,将视觉场景与音乐转变结合起来。最后,为了构建一个简短的编辑视频,编辑和审稿代理根据严格的美学和语义标准选择细粒度的视觉内容,协作优化最终剪辑。我们进行了详细的实验,证明 CutClaw 在生成高质量、节奏一致的视频方面明显优于最先进的基线。该代码位于:https://github.com/GVCLab/CutClaw。