从残差到原因：LLM 引导机制从表格数据推断

科学应用机器学习的一个持续挑战是共同实现预测和理解。统计模型在结构化数据上表现出色，但作为黑匣子运行，而现有的可解释性方法在很大程度上是检查性的：它们回答“哪些特征重要？”但没有阐明特征如何与人类理解相互作用或迭代地完善解释。要求 LLM 直接预测目标迫使其搜索整个输出空间；相反，我们使用基本模型来锚定预测，并向 LLM 询问该模型缺少什么的更狭窄的问题。我们引入了多智能体残差上下文学习（MARICL），这是一个代理框架，其中 LLM 智能体分析基础模型失败的地方，假设上下文中提供的高残差示例中缺失的结构，并通过多轮文本梯度优化生成明确的校正项。在涵盖科学、生物医学、社会经济和综合设置的九个基准中，MARICL 在所有数据集上都比其基本模型持续改进。为了测试这些校正是否反映真实结构或批次特定噪声，我们冻结了在无细胞蛋白质数据集的一批实验批次上学习的公式，并将它们（无需重新训练，也没有进一步的 LLM 调用）应用于保留的批次。在相同的试剂方案中，冷冻配方改善了超过 92% 的病例的预测；在不同的协议中，它们会系统性地失败。成功的边界与生物化学一致，而不是批次计数；机械概括的直接证据。