论文
无监督概念提取的统一框架
A Unifying Framework for Unsupervised Concept Extraction
摘要
概念提取技术,例如稀疏自动编码器和转码器,旨在从低级非符号表示中提取高级符号概念。当这些提取的概念用于模型引导和遗忘等下游任务时,必须了解它们的保证或缺乏保证。在这项工作中,我们提出了一个用于无监督概念提取的统一理论框架,其中我们将概念提取的任务定义为识别生成模型。我们提出了可识别性的一般元定理,它将建立可识别性保证的问题简化为表征两个集合的交集的问题。当我们演示一系列广泛使用的方法时,这个元定理大大简化了证明此类保证的任务,从而为概念提取的新的、有原则的方法的开发铺平了道路。