以结构感知的多样性追求缓解生成式AI同质化

生成式AI模型会重现训练数据中的偏差，并可能通过模式坍缩进一步放大偏差。本文把由此导致的有害多样性损失称为同质化，认为同质化应成为AI安全的主要关注点。作者提出xeno-reproduction策略，用于缓解同质化；对于自回归LLM，该策略被形式化为具有结构意识的多样性追求。本文贡献属于基础性研究，旨在开启一条重要研究路线，并邀请进一步合作以促进多样性。