拆解大模型交互中的隐私与效用权衡

将大语言模型集成到日常任务中依赖于上下文丰富的指令，不可避免地会暴露敏感的用户信息。当前的隐私保护方法通常采用上下文无关的静态规则，导致效用严重下降。然而，控制消毒如何影响下游性能的具体机制在很大程度上仍未得到充分探索。为了解决这个问题，我们进行了系统分析来解构隐私与效用的权衡，揭示了三个基本机制：（1）上下文相关的效用，首先通过揭示数据价值从关键约束转变为基于用户意图的可有可无的噪音来确定何时进行清理； (2) 战略适应，随后通过规定删除和替换之间的选择取决于任务对事实完整性与结构一致性的依赖来确定如何进行清理； (3)组合相互作用，通过证明属性形成协同依赖或对抗冗余的语义网，最终扩展了保护范围。在这些见解的指导下，我们引入了意图驱动的本地保护框架。通过提炼轻量级模型 Veilmind-4B 来驱动动态提取-清理-恢复管道，我们的方法达到了低泄漏隐私点，同时保留了比现有面向隐私的基线更高的响应效用，从而将隐私与效用权衡推向帕累托前沿。