论文

以连贯性为导向的梦境场景可视化

Coherence-Oriented Dream Scene Visualisation

应用与实践内容创作

摘要

梦境可以情感丰富,但难以用语言表达。我们描述了Dream Scene Visualiser(DSV)系统,该系统将书面的梦境描述转化为四张面板图像的时间序列,每张面板展示一个梦境阶段。这个过程首先由大语言模型引导,将其描述分成四个时间相关的部分。然后,文本到图像模型为每个部分生成图像,保持其间的视觉连贯性,并且DSV会根据文本重新生成不符合要求的图像。我们评估了50个来自DreamBank的视觉化梦境描述,并通过CLIP、DINOv2和Qwen2-VL等客观测量指标报告了质量、保真度和连贯性结果。

以连贯性为导向的梦境场景可视化:论文配图
图 1:DreamBank 示例 DB-b533e9bb 的管道跟踪:(a) 原始梦境文本 (b) 分解为四个短面板文本和主导情感标签 (c) 丰富的面板文本,用作 SDXL 中的提示 (d) 后处理后生成的面板图像,给出反馈循环重复和与文本的 CLIP 余弦相似度。