澄清、弃权还是回答？与信仰增强的一代对话制定策略

大语言模型 (LLM) 定义文本上的分布，可以将其视为不确定性的概率表示：对 K 个响应进行采样会产生信念状态 - 模型认为合理的响应。现有的工作利用这种表示来执行狭窄的任务，例如解码或选择性预测，并且通常需要手动干预，而不是直接控制生成。我们提出信念增强一代（BAG）：通过提示将 LLM 置于他们自己的信念状态中，让他们对这 K 个样本进行推理，以决定并执行对话策略：澄清、放弃或回答。在多轮模糊问答 (QA) 设置中，我们发现 LLM 默认情况下很少澄清或弃权，忽略输入（任意）或事实（认知）的不确定性。 BAG 提高了六个模型的 QA 准确性，并产生比仅提示基线更忠实于其信念状态的策略决策。然而，区分何时澄清和何时弃权仍然具有挑战性。