论文

时间胶囊:生成幻觉作为历史意义建构的方法

TimeCapsule: Generative Hallucination as a Method for Historical Sensemaking

应用与实践科学研究

摘要

大语言模型(LLM)在时间上暴露过度:在庞大的当代语料库上进行训练,它们对当今的概念进行编码,这使得它们成为过去不可靠的叙述者。我们提出了 TimeCapsule,一种 1.2B 参数 LLaMA 风格的因果模型,专门在维多利亚时代文本(1800-1875)上进行训练,作为认识论上孤立的生成档案。定量评估显示,与 GPT-2 基线相比,维多利亚散文的困惑度降低了 45.4%,而更大的当代因果模型通过更广泛的预训练实现了更低的原始困惑度,但缺乏时间隔离。 TimeCapsule 展示了计算意义建构,为不熟悉的现代概念生成历史上合理的类比解释(例如,将计算机描述为“肥大的肺”)。两位人文学者进行的定性解释学调查揭示了真实性危机,因为两人都将大约 40% 的真实维多利亚时代摘录错误地归类为机器制作的。我们认为,对未来的结构性无知将幻觉转变为对十九世纪本体论的解释性探索。