论文
资产收割机:从自动驾驶日志中提取 3D 资产进行模拟
Asset Harvester: Extracting 3D Assets from Autonomous Driving Logs for Simulation
摘要
闭环仿真是自动驾驶汽车 (AV) 开发的核心组成部分,可在实际部署之前实现可扩展的测试、训练和安全验证。神经场景重建将驾驶日志转换为交互式 3D 环境进行模拟,但它不会生成代理操作和大视点小说视图合成所需的完整 3D 对象资产。为了应对这一挑战,我们推出了 Asset Harvester,这是一种图像到 3D 模型和端到端管道,可将稀疏的野外对象观察结果从真实驾驶日志转换为完整的模拟就绪资产。我们没有依赖单个模型组件,而是为现实世界的 AV 数据开发了系统级设计,该设计结合了以对象为中心的训练元组的大规模管理、跨异构传感器的几何感知预处理以及将稀疏视图条件多视图生成与 3D 高斯提升相结合的强大训练方案。在该系统中,SparseViewDiT 明确设计用于解决有限角度视图和其他现实世界数据挑战。与混合数据管理、增强和自我 蒸馏 相结合,该系统能够将稀疏 AV 对象观察结果可扩展地转换为可重复使用的 3D 资产。