MT-ProtBERT：用于稀缺数据的本质无序蛋白质分类的多任务学习 ProtBERT

本质无序蛋白（IDP）与折叠蛋白的不同之处在于它们是动态的，缺乏稳定的三维构象，并且相似蛋白之间的序列相似性较低。 IDP 的构象异质性虽然有利于其多样化的功能，但限制了使用传统实验工具来确定其构象。实验难度加上序列相似性低，导致数据稀缺，并且很难对相似或不相似的 IDP 进行分类/检测，而这是一项与理解生物学和进化相关的任务。我们使用多任务 ProtBERT (MT-ProtBERT) 来应对这一挑战，这是针对低数据情况量身定制的 ProtBERT 多任务扩展。 MT-ProtBERT 集成了动态窗口屏蔽、多尺度一维卷积分类器 (MS-Conv1D) 和辅助目标，共同优化屏蔽语言建模和生物化学信息任务。我们在有限数据下的两项任务上评估该框架：（i）短序列和小数据集中的磷酸化位点预测（S/T/Y），以及（ii）两个小数据集（684和530序列）的蛋白质压缩预测，包括长度与典型无序区域相当的序列。 MT-ProtBERT 在所有任务中始终优于 PARROT（一种基于 RNN 的 IDP 特定模型）。这些结果表明，将自我监督和生物化学信息任务与多尺度学习相结合，可以在数据稀缺的情况下对非结构化蛋白质进行稳健建模。