用于设备上上下文学习的无梯度任务条件检索

设备上上下文学习 (ICL) 依靠预推理检索，在下游模型推理之前选择有用上下文的演示。这种检索必须利用特定于任务的信息，同时在有限的计算、内存和数据暴露预算下对本地内存进行操作。我们提出了条件检索对齐（CoRA），这是一种无梯度框架，可使用配对的候选输入和输出将冻结编码器转换为任务条件 检索器。 CoRA 选择互补的编码器层，从候选内存构建输出导出的条件空间，并通过封闭形式岭回归将候选输入表示与该空间对齐。然后，低秩分解会产生一个紧凑的检索基础，其中候选输出仅在离线索引构建期间使用，而查询时检索仅需要查询输入和预先计算的索引。我们证明了 CoRA 的秩约束基础是输出条件拟合表示的最佳低秩压缩，并推导出精确的两遍流式结构，避免实现完全拟合矩阵。我们通过将视觉表示合并到条件和检索空间中，进一步将框架扩展到多模态样本检索。使用 Llama-3.2-1B、MobileLLM-Pro、OpenFlamingo-3B 和 Qwen3.5-2B 以及端到端 Raspberry Pi~5 部署进行的十个文本数据集和四个多模态基准测试的实验表明，CoRA 支持有效的任务条件检索，而无需 检索器 微调、反向传播或目标模型调用。