论文

AgriField-40K:通过高效的持续预训练使视觉模型适应农业

AgriField-40K: Adapting Vision Models to Agriculture With Efficient Continual Pretraining

模型训练参数高效训练

摘要

基于现场的农业计算机视觉对于精准农业很重要,但它在很大程度上取决于昂贵的注释和大型预训练模型的昂贵适应。我们介绍 AgriField-40K,这是一个以田间为中心的数据集,由 17 个公共资源整理而成,涵盖多种作物、杂草和田间条件。在此基础上,我们提出了 AgriMAE,一种参数高效的连续预训练基线,它通过仅训练轻量级适配器来适应在自然图像上预训练的掩码自动编码器。我们进一步探索语义特征重建作为替代预训练目标,并评估跨多个任务的迁移。 AgriMAE 不断提高下游性能,可以匹配甚至超越完整的 微调,同时使用的可训练参数减少了 9 倍,这表明 AgriField-40K 是农业视觉持续预训练的实用资源。项目页面:https://dtu-pas.github.io/agrifield40k/