跨域、多任务数据到文本生成，无需域内训练数据

结构化数据有多种形式（表格、知识图、图表、时间序列），将其转换为文本可能涉及不同的生成任务。然而，大多数先前关于数据到文本（D2T）生成的工作都集中在特定任务和数据集上，依赖于特定于任务的训练数据或 大语言模型 的零样本功能。我们在域内训练文本和测试参考均不可用、域、生成目标和输入结构差异很大的环境中研究跨域 D2T 生成。我们将数据驱动的 知识蒸馏 (DDKD) 与零样本推理以及域外 D2T 数据上的 微调 进行比较，并通过结构子采样和扰动引入结构保留增强。五个基准测试的实验表明，在恒定模型大小（1.7B 参数）下，DDKD 始终优于 微调 和零样本推理。此外，所得的小模型在五个域中的两个域上优于较大的微调模型，在其余三个域上实现了可比的性能。我们进一步构建了 QUINTD-5，这是 QUINTD-1 的五倍扩展，并表明简单地缩放真实目标域输入只能产生适度的收益，而我们的增强策略对于跨域 蒸馏 仍然更有效且更具成本效益。