论文

寻找陌生但难忘的东西:作为元学习的概念创造力

Seeking the Unfamiliar but Memorable: Conceptual Creativity as Meta-Learning

模型训练强化学习

摘要

创建一个新概念而不是检索一个熟悉的概念意味着什么?在同一提示下重复采样生成模型会产生具有相似风格和典型内容的变体。我们认为创造力是刺激的产生,适应性观察者乍一看不熟悉这些刺激,但通过几次接触就能很快学会。我们将其形式化为创建者-评估者对:创建者生成候选者,评估者适应它以进行一些内循环学习步骤,评估者的改进成为创建者优化的奖励。我们将扩散框架实例化为 Creator、MNIST 上的自动编码器评估器以及带有自然图像低秩适配器的 CLIP 评估器。扩散模型保持冻结状态,没有额外的语言调节;元学习梯度足以产生基础模型本身无法生成的风格变化和概念构成。