论文
DR-Venus:仅用 10K 开放数据迈向前沿边缘规模深度研究代理
DR-Venus: Towards Frontier Edge-Scale Deep Research Agents with Only 10K Open Data
摘要
基于小语言模型的边缘规模深度研究代理因其在成本、延迟和隐私方面的优势而对现实世界的部署具有吸引力。在这项工作中,我们研究如何在有限的开放数据下通过提高数据质量和数据利用率来训练强大的小型深度研究代理。我们推出 DR-Venus,这是一种用于边缘规模部署的前沿 4B 深度研究代理,完全基于开放数据构建。我们的训练方案包括两个阶段。在第一阶段,我们使用代理监督微调(SFT)建立基本的代理能力,将严格的数据清洗与长视野轨迹重采样相结合,以提高数据质量和利用率。在第二阶段,我们应用代理强化学习(RL)来进一步提高长期深度研究任务的执行可靠性。为了使强化学习在这种情况下对小智能体有效,我们在 IGPO 的基础上设计了基于信息增益和格式感知正则化的回合级奖励,从而提高了监督密度和回合级贡献分配。 DR-Venus-4B 完全基于大约 10K 开放数据构建,在多个深度研究基准上的 9B 参数下显着优于先前的代理模型,同时也缩小了与更大的 30B 级系统的差距。我们的进一步分析表明,4B 代理已经拥有令人惊讶的强大性能潜力,凸显了小型模型的部署前景以及在此设置中测试时间扩展的价值。我们发布了我们的模型、代码和关键配方,以支持边缘规模深度研究代理的可重复研究。