遣散费问题：LLM 不知道提示之外的人

个人人工智能助理因其通过自动化日常任务、支持相应决策和协助处理日常个人事务来改善日常生活的潜力而引起了人们的极大兴趣。然而，尽管最近技术进步很快，这些助手仍然表现出不良行为，例如阿谀奉承、过度自信和幻觉。我们认为这些失败源于一个基本的限制：语言模型缺乏对超出给定上下文的人的明确表示，我们将其称为 \textbf{Severance Problem}。即使主干模型具有丰富的个人背景和强大的常识推理能力，当前的人工智能助手也无法代表用户仍然未知的内容。我们提出了一个简单的解决方案：通过 \textbf{Severance Schema} 将结构化无知纳入语言模型上下文中，它明确地概述了模型缺乏关于用户的知识的维度，包括物理性、时间性、后果、连续性、多重性和内在性。根据经验，在五个模范家庭中，借助 Severance 模式，助手能够持续减少阿谀奉承、有害建议和幻觉。值得注意的是，当有关用户的信息丢失时，具有该模式的模型会提出澄清问题，而不是自信地从不完整的用户信息中推断。