HUOZIIME：一种用于深度个性化的设备上 LLM 增强输入法

移动输入法编辑器 (IME) 是文本输入的主要界面，但它们仍然仅限于手动输入，并且难以生成个性化文本。虽然轻量级 大语言模型 (LLM) 使设备上的辅助生成变得可行，但实现深度个性化、隐私保护和实时生成 IME 提出了根本性的挑战。 为此，我们推出了 HUOZIIME，这是一种由 LLM 提供支持的个性化设备上 IME。我们通过 后训练 基于综合个性化数据的 LLM 赋予 HUOZIIME 初始类人预测能力。值得注意的是，分层内存机制旨在持续捕获和利用用户特定的输入历史记录。此外，我们针对基于 LLM 的 IME 部署进行了系统优化，确保在移动限制下实现高效且响应灵敏的操作。实验证明了高效的设备执行和高保真内存驱动的个性化。代码和包可在 https://github.com/Shan-HIT/HuoziIME 获取。