PrivTab：具有差分隐私保证的表格基础模型分类

表格数据支撑着医学、金融、政府和科学领域的预测和决策，但通常包含敏感的个人信息，因此需要在保护隐私的同时进行准确的预测。传统的私人学习提供了正式的隐私保证，但需要缓慢的特定于数据集的优化，在强隐私下遭受巨大的效用损失，并且通常难以正确应用。表格基础模型可以快速适应新的数据集，但现有模型缺乏正式的隐私保证，并且非常容易受到成员资格推断攻击，从而限制了它们在敏感数据上的使用。在这里，我们介绍 PrivTab，这是一种易于使用的表格基础模型，用于差异化隐私分类，在其架构中嵌入了隐私机制。 PrivTab 在模拟数据集上进行了预训练，使用上下文学习将敏感行转换为紧凑的、可证明隐私的摘要——有效地学习如何在隐私下学习。显示，在中度至强隐私情况下，PrivTab 的性能优于私有线性和神经网络基线 成员泄漏可忽略不计，在强隐私下保持良好校准的预测，并将数据集拟合时间减少 10,000 倍，仅需要一次前向传递。通过结合正式的隐私、速度和易用性，PrivTab 将人工智能的最新进展带入敏感的个人级数据限制其采用的应用程序中。