论文

从提示到决策树:大模型辅助少样本表格分类

From Prompts to Trees: Effective LLM-Guided Tree Generation for Few-Shot Tabular Classification

模型优化应用与实践蒸馏结构化分析、预测与决策

摘要

虽然大型语言模型(LLM)拥有丰富的世界知识和令人印象深刻的泛化能力,但它们在表格数据分类中的直接应用受到高推理成本和有限的可解释性的阻碍。相比之下,决策树快速且透明,但在低数据情况下往往表现不佳。在这项工作中,我们提出了一个新颖的框架,通过在几次学习设置下将LLM知识提炼成可解释的决策树,来连接这些范式。我们没有直接提示LLM生成完整的树,这通常不稳定且效率低下,而是开发了一个三阶段范式,提示LLM生成规则并将规则组织成树。对多个真实世界表格数据集的实验表明,与现有基线相比,我们的方法实现了卓越的准确性和可解释性,并且提示开销显着降低。

从提示到决策树:大模型辅助少样本表格分类:论文原图
图 1:有或没有有关数据集的元数据的LLM的测试准确性。