TabPATE：没有公共数据的差异私有表格上下文学习

表格基础模型可以从小型标记数据集中进行准确的上下文学习 (ICL)，但放置在上下文中的私人记录可能会通过模型预测泄漏。我们首先证明，即使是基本的成员推理攻击也能成功对抗表格 ICL，从而促进正式的隐私保护。然后我们介绍 TabPATE，这是一种针对表格 ICL 的差分私有 PATE 式防御，不需要公共分布数据。 TabPATE 在教师模型之间划分私有上下文，在合成表格查询上私下聚合其标签，并将生成的标记查询作为学生上下文发布。由于表格特征是有界的且维度相对较低，因此可以仅从特征范围或从轻度私有化的边缘生成有用的查询。在表格基准测试中，TabPATE 保留了竞争性效用，同时将成员推理减少到近乎随机的成功，从而为无需公共数据的私有表格 ICL 提供了实用路径。