UniSteer：激活空间中的文本引导流量匹配，实现多功能 LLM 转向

基于激活的控制通过在推理过程中干预其内部表征来引导 大语言模型 (LLM)，并已成为控制角色和风格等行为的有效范例。然而，现有的方法通常依赖于固定的指导方向或特定于任务的干预模块，使得它们难以适应细粒度的概念和组合约束。我们提出了 UniSteer，一种文本引导的激活流匹配模型，可以从自然语言条件中学习残差流激活的条件分布。 UniSteer 不是对每个目标行为进行单独的干预，而是在激活空间中学习通用的条件速度场。在推理时，UniSteer 通过将源激活部分传输到潜在状态并在目标文本条件下重新生成它，然后将其注入回冻结的 LLM 来执行流反转。相同的条件模型通过选择具有最低重建能量的文本标签来支持激活空间分类。对三个目标 LLM 的实验表明，UniSteer 提供了跨行为控制、真实性引导、细粒度概念引导、多约束指令跟踪和激活空间分类的统一接口。