论文
由AI编写,由AI管理:连续391个会话的语义空间控制和索引疾病消除
Written by AI, Managed by AI: Semantic Space Control and Index Sickness Elimination Across 391 Consecutive Sessions
摘要
在长期 LLM 协作中解决概念漂移的普遍工程直觉是用更正式的约束换取更可靠的输出——设计符号标识符系统、在系统提示中积累防御规则、扩展上下文窗口。我们的工程记录表明,在长期设置中,这个方向可能会产生与设计意图相反的效果。我们在一个持续大约一个月和 391 个协作会话的真实软件项目 (Bang-v3) 中使用行动研究方法,记录并分析了这些策略的失败过程。当符号系统超过复杂性阈值时,LLM 不会变得更加准确 - 相反,它们放弃对业务语义的真正理解,退回到符号层内的自引用推理,并生成看似内部一致但在物理上与现实脱节的输出。我们将这种失败模式命名为“索引病”,其典型表现形式为“幽灵立法”。我们将其基本原理命名为“庞原理(语义活力法则)”:带有明确目的的自然语言所传达的信息质量远高于符号表达。由此,我们设计并验证了其物理工程机制:“基线-日志物理分离”。在同一项目中,该机制将 AI 指令量减少了约 75%,并且在随后的约 150 个会话中,没有观察到索引疾病复发。双语配套版本(中文)作为补充材料包含在内。