ECHO-k：以基础模型表征监督按需模态获取

多模态高维学习使基础模型可以处理异构大规模数据，但测试时获取所有特征或模态成本过高且常冗余。顺序选择有信息量的模态很重要，未知下游任务或预测目标时尤其困难。我们提出ECHO-k，一个任务无关、自监督模态获取原则：用深度模型内部预训练表示，如基础模型表示，作概括跨模态信息的代理目标。我们在理想化线性设置下给出理论保证，启发以强化学习顺序选择模态的策略。相比任务无关和无标签获取基线，ECHO-k在多种基础模型后端上持续改善预算约束下游表现，为成本感知的测试时部署提供方法，适用于测量昂贵或时间受限且下游任务事先未知的多模态系统。