模型并非产品：面向本地优先心理辅导的双支柱架构

现有语言模型应用难以满足情感导向支持的需求，主要因为它们无法跨会话维持深入、持久的上下文。本报告介绍Psych LM，一款iOS应用，它验证了这样一个论点：对此类应用而言，周边架构才是首要因素。Psych LM在一个为行为与人生教练类应用打造的专用本地优先运行时中运行本地端侧语言模型。该系统通过一个自动化、用户可查验的记忆语料库实现了近乎无限上下文窗口的实际效果：该语料库将对话转化为包含事实、目标和事件的结构化记忆卡片，并通过语义与向量搜索将它们动态注入提示。因此，该系统可被定义为一种主动学习、检索增强生成、端侧的架构。该架构带来四项主要贡献：以隐私为核心属性的本地优先设计；对持久保存关键用户信息上下文的记忆语料库的详细描述；一个确定性的编排层，提供独立于模型内部状态的稳定行为主轴；以及一个聚焦于评估集成系统在真实运行条件下可靠性的基准框架。研发过程证实，通过把架构控制与资源管理置于单纯的模型规模之上，可以在移动环境的严苛约束下可靠地实现复杂的上下文感知交互。