论文

基础模型满足农业:预训练之外的挑战

Foundation Models Meet Agriculture: Challenges Beyond Pretraining

模型评测模型能力评测

摘要

全球粮食安全和可持续气候行动越来越依赖于强有力的、可扩展的农业监测。地球观测基础模型已成为跨一般遥感领域的强大、标签高效的工具,但将其部署到农业应用的早期尝试却取得了令人惊讶的糟糕结果。我们假设这种性能差距源于农业景观的极端异质性以及当前地球观测基础模型固有的无法适应特定任务的细微差别。在这项工作中,我们系统地评估了阻碍基础模型在农业任务中部署的两个关键瓶颈,对两个地球观测基础模型、一个为表格数据设计的基础模型以及涵盖产量预测、物候估计和作物分类的七个现实农业数据集的传统监督基线进行了基准测试。首先,我们确定了预训练-部署模态差距:农业下游任务经常需要多样化的非图像数据模态,而地球观测基础模型在架构上无法摄取这些数据模态,而为表格数据构建的基础模型可以更自然地处理这种异质性。其次,我们将农业任务空间形式化为五个结构轴,以证明为什么当前模型无法可靠地泛化,导致评估设置中的模型排名高度不稳定。通过描述这些结构和模式差距,我们的见解突出了通用架构和专业农业下游数据之间的摩擦,为开发下一代领域感知基础模型提供了战略路线图。