论文

PragAlign:反馈引导的语用对齐,用于受控的合成对话生成

PragAlign: Feedback-Guided Pragmatic Alignment for Controlled Synthetic Dialogue Generation

模型推理推理验证与自校正

摘要

合成对话生成可以支持隐私受限服务环境中的研究,但生成的对话必须保留交流意图、情感意义和自然对话流。我们引入了 PragAlign,这是一种反馈引导框架,用于根据服务上下文、目标意图和目标情感生成受控合成对话,并具有辅助特征样式控制。 PragAlign 使用生成-评估-修订循环,其中基于 LLM 的评估器对意图一致性、情感一致性、连贯性、流畅性和总体质量进行评分,然后为最多三轮细化提供特定于标准的反馈。在 800 个匹配的对话规范上,PragAlign 达到了 99.50% 评估者定义的接受度,而一次性生成的接受度为 72.25%,无结构化反馈的重复生成的接受度为 95.88%。这表明重复尝试占了一次性生成的大部分收益,而结构化反馈主要提高了最后一英里的多约束满意度,而不是广泛的平均质量。细化收益集中在情感协调上,这也是消融中的主要失败模式。对 1,200 个生成的对话进行的单独人类评估表明,注释者可以高度识别意图表达和对话流程,而情感适当性则不太稳定且更主观。这些结果支持 PragAlign 作为质量控制框架,用于提高评估者定义的沟通约束满意度,同时表明情感实现和独立的人类感知质量仍然是开放的挑战。