技术实践
超级小爱结合快慢路由、RAG规划与三级上下文压缩
概述
超级小爱在车内衔接座椅、空调、导航和娱乐等系统,将高频简单请求交给快系统,将多条件搜索及长程编排交给慢系统。团队以Xiaomi MiMo为基座,尝试从思考模式转为直接回答以降低延迟,再通过RAG-Planning检索类似问题的完整解题思路,补足复杂任务的规划依据。全双工链路将拒识、判停和打断放进统一控制模块,支持边听边说与插话接续。三级Session压缩依次清理过期状态、保留当前任务相关轮次、摘要超长对话。团队报告模型耗时平均下降约35%,上下文Token减少60%—86%;两者来自不同改进环节,不合并为整车系统统一提速。