论文
VideoEvolve:用于视频时间grounding的进化AgentHarness
VideoEvolve: Evolving Agent Harnesses for Video Temporal Grounding
摘要
视频时间grounding旨在根据自然语言查询定位视频中的事件。对于围绕冻结视频语言模型构建的Agent,该工具确定查询如何指导时间预测以及如何细化这些预测。手动改进这些Harness需要诊断grounding故障并协调对Agent工作流程和指令的更改。我们引入了 VideoEvolve,一个可以自动演化视频时间groundingAgent工具的框架。 VideoEvolve 使用完形填空结构Harness表示法,保留舞台界面,同时让Agent工作流程和指令可供演变。分支引导的Harness演进保留有前途的代码分支以供持续改进,使用执行反馈来指导本地编辑和验证以确定要进行哪些改进。实验证明了多个基准测试中grounding性能的提高。组件分析将指令细化视为一致的收益来源,而演进代码的好处因评估设置而异。总之,这些结果支持自动化Harness演变作为改善视频时间grounding的有效方法。代码可在 https://github.com/bingjunluo/VideoEvolve 获取。