论文
什么值得代表?持续模型构建的表征赋权
What Is Worth Representing? Representational Empowerment for Continual Model Construction
摘要
世界建模的第一个问题不仅仅是估计正确的参数或因果结构,而是决定应该表示什么。我们将这个问题描述为持续的模型构建:代理维护不可访问的世界 W 的特定于环境的模型 M,并管理跨环境的可重用表示元素的持久库 L。我们提出表征赋权(RepEmp),通过候选元素扩展智能体未来建模和规划能力的程度来对候选元素进行评分,补充赋权的经典定义,但重新定义为对内部表征而不是外部状态的控制。我们将该框架实现为分层的 Curator-Actor 架构,并通过三个实验对其进行测试。在封闭词汇因果学习任务中,人类参与者以不同的抽象粒度构建因果模型,以最大限度地提高目标可达性,而不是对世界的保真度,这是 RepEmp 比信息增益替代方案更好地预测的特征。匹配模拟表明,RepEmp 引导的构建对于充分的结构恢复和跨任务转移的贡献不仅仅是探索。最后,在开放词汇规划领域,LLM 增强的 Curator 构建了更紧凑的符号库,其泛化能力也比基线更好。消融 RepEmp 会消除这些好处。总之,这些结果将 RepEmp 确定为持续模型构建的关键原则:决定在有限资源下构建、保留和重用什么。