论文
BridgeAlign:架起人文与社会科学偏好协调的桥梁
BridgeAlign: Bridging Preference Alignment for Humanities and Social Sciences
摘要
虽然 大语言模型 (LLM) 的数据合成很普遍,但它主要针对具有可验证答案的领域,忽略了开放式人文和社会科学 (HSS),在这些领域,细致入微的质量判断比客观正确性更重要。这使得偏好对齐成为广泛的 HSS 任务的自然范例。然而,现有方法要么成本高昂,要么不适合广泛的 HSS 学科。因此,我们提出 BridgeAlign,它是广泛的 HSS 学科的第一个偏好对齐管道之一,分为三个阶段: i) 种子管理:通过基于启发式/LLM 的过滤和文本细化,从网络语料库中管理 HSS 种子文档; ii) 偏好数据合成:通过基于角色的指令反转和问答一致性检查生成偏好三元组; iii) 偏好优化:首先将偏好建立在 HSS 质量标准中,然后通过受控质量降级生成过渡响应,形成近边界偏好对,以实现更细粒度的质量区分,从而超越朴素的人类与模型启发法。 BridgeAlign 比对了超过 21 万个综合偏好样本,使 Qwen3-8B 能够在 17 个基准测试中针对 11 个强基线实现最佳平均值;重要的是,同时引领人类偏好和基于知识的能力,并且它们之间没有权衡,得到广泛实验的支持并得到现有理论的背景。