论文
校准惊喜:创意质量的信息论解释
Calibrated Surprise: An Information-Theoretic Account of Creative Quality
摘要
在大语言模型时代,创意写作质量缺乏可计算的理论锚点。主要方法是评分标准(将整体审美判断分解为子分数)和 RLHF 偏好信号(用群体投票取代质量)。两者都绕过了文本本身的统计结构。本文提供了填补这一空白的信息论基础。我们提出“校准惊喜”作为优秀创意写作的信息论本质。这个判断符合阅读直觉并涵盖了它的反面。这种文学判断承认了精确的数学公式。在全维约束Y下,可行的书写选择被强制进入极其狭窄的空间。从不受约束的角度来看,罕见的幸存者恰恰是最不可预测的选择。两者均通过香农互信息精确测量 I(X;Y) = H(X) - H(X|Y)——“校准”对应于 H(X|Y) 接近 0; “令人惊讶”对应于 H(X) 变高。公式的减法结构自然地将“有充分根据的惊喜”与“纯粹的噪音”区分开来。我们使用 Qwen1.5-7B 中的 词元级 logprobs 作为理想读者概率分布的操作代理。在 20 对(12 中文 / 8 英文)高质量与系统降级的文学段落中,20/20 对支持核心预测:高质量段落比其降级版本具有系统更高的 I(X;Y)。