论文

AEGIS:迭代保障意识增强指南

AEGIS: Awareness-Enhanced Guidance for Iterative Safeguard

上下文与知识上下文工程

摘要

跨度级别的基本原理通常被认为可以提高文本解毒的可控性,但目前尚不清楚这种指导何时有帮助以及何时引入权衡。我们提出了迭代保障意识增强指南(AEGIS),作为研究英语、普通话和韩语跨度引导多语言戒毒的探索性框架。 AEGIS 将跨度级探测器输出与冻结的发生器骨干相结合,允许在重写期间提供有害的跨度、强度标签和目标属性作为结构化指导。我们并没有声称拥有最先进的解毒性能,而是分析了跨度指导如何影响生成器家族、模型规模和语言的毒性降低和意义保存之间的平衡。我们的结果表明,跨度引导的解毒是有条件有用的:明确的基本原理改变了毒性减少和意义保存之间的权衡,但它们的效果在很大程度上取决于生成器主干和语言上下文。这些发现凸显了多语言解毒的跨度控制信号的前景和局限性。