论文
几何引导的LLM安全分类约束学习
Geometry-Guided Constraint Learning for LLM Safety Classification
摘要
多面体安全（SaP）在LLM隐空间学习线性半空间约束，但需要按类别调节约束数K。我们证明稀疏自编码器（SAE）特征抽取可解决该问题：在Qwen3.5-9B上，K=2对12/14个类别成为最优，在我们BeaverTails分类基准上每类别取得96–99%准确率，基本消除穷举扫描（K=4–25随机初始化）的需要。向两个平面的收敛与线性表示假说一致，为“该设定下的安全边界在SAE特征空间中允许低维线性描述”提供提示性证据。基于该几何视角，我们引入锥形约束：其可学习的开角自适应每个类别的簇集中度，由三阶段训练稳定。