Persona-Pruner：为角色扮演塑造轻量级模型

语言模型 (LM) 作为角色扮演聊天机器人显示出了巨大的潜力，在给定角色或用户角色规范时，可以提供一致、风格化的交互。然而，将这些功能应用于现实世界的应用程序（例如，具有大量 NPC 同时交互的生态系统）会因计算成本过高而暴露出严重的低效率问题。在本文中，我们质疑将完整的通用模型专用于单个角色的必要性，假设特定的角色身份仅依赖于模型总容量的一小部分。我们观察到，天真的修剪 LM 通常会严重降低特定角色的角色扮演性能；它不区分多余的知识和基本的性格特征。我们提出了 Persona-Pruner，这是一个框架，通过将特定于角色的子网络与单个描述隔离来构建轻量级角色扮演模型。我们的实验一致表明，Persona-Pruner 比现有最先进的 LLM 修剪技术更有效地保留了角色扮演性能，与 RoleBench 上 LLM 作为评判得分的最强基线相比，密集模型的性能下降减少了高达 93.8%，同时仍然保持一般的 LLM 功能。代码可在 https://github.com/jsu-kim/Persona-Pruner 获取。