超越回忆：行为规范作为人工智能个性化的解释层

如果人工智能代理代表一个人做出决策，那么这些决策必须与其用户保持一致。我们引入表征准确性来衡量系统如何忠实地捕捉人的解释。解释层被操作为行为规范。我们的参考实现积极地将人的数据压缩为解释模式，作为语言模型的上下文。我们根据由经过校准的 5 名评委 LLM 小组进行评分的行为预测原型基准来评估该规范。我们独立地测试它，并结合一系列上下文条件进行测试：完整的原始语料库、完整提取的事实和四个商业内存系统（Mem0、Letta、Supermemory、Zep）。该规范在 14 个公共领域自传体语料库中提高了总体表征准确性，并几乎消除了模型对冲。它恢复了原始语料库提供的大部分内容，上下文成本降低了约 25 倍。该规范将受试者提升到共同的预测水平，无论训练前基线如何；因此，在基线最低的地方，绝对点的提升最大，这表明相关人群是在预训练中没有充分代表的任何人。在需要解释的问题上提升效果最大，其中提供解释层可以实现提取事实或原始语料库无法实现的模型行为。相反，对于需要回忆的问题，这一层可能会干扰而不是提供帮助。我们得出的结论是，表征准确性与召回率不同，人类与人工智能的一致性取决于用户表征的准确程度。表征的准确性使得这种对齐可以测试。