面向物质使用障碍患者对话生成的多目标对齐小语言模型

药物使用障碍 (SUD) 咨询要求患者的反应反映潜在的认知状态，例如信念、应对策略和改变的准备情况。尽管大型语言模型（LLM）可以生成流畅的文本，但它们通常无法产生认知连贯和临床现实的患者行为，特别是在道德和数据稀缺的临床环境下。此外，在医疗保健应用中部署前沿规模的LLM面临着实际挑战，包括高计算成本、延迟、隐私问题以及在资源有限的环境中有限的可部署性，从而激发了对认知一致的小语言模型（SLM）的需求。我们提出了一个用于 SUD 患者对话生成的认知基础框架，该框架明确地模拟潜在认知成分并将其与患者病史和咨询师问题保持一致。我们的管道由两个阶段组成：认知组件检测和认知组件对齐的对话生成。为了利用较小的模型进行有效的学习，我们结合了来自高容量教师模型的知识蒸馏、来自人类注释的偏好优化以及注意力引导的奖励塑造。使用 BERTScore、ROUGE、METEOR 和 BLEU 等自动评分以及LLM作为评判命中指标对人类和教师模型参考进行的广泛评估表明，认知知情微调可显着改善通用指令调整基线和心理健康领域特定 SLM 的认知实现和一致性，尤其是开放式认知组件的收益尤其显着。