任务短语对 大语言模型 中的假设的影响

对在不可预测的现实应用中应用大语言模型 (LLM) 的安全性和可靠性的担忧激发了这项研究，该研究探讨了任务措辞如何导致 LLM 中的假设，从而使它们在任务偏离这些假设时难以适应。我们使用迭代囚徒困境作为案例研究，研究了这些假设对 LLM 性能的影响。我们的实验表明，即使有推理步骤，LLM 在做出决策时也容易受到假设的影响。然而，当任务措辞是中性时，模型在没有太多假设的情况下展示了逻辑推理。这些发现强调了正确的任务措辞对于降低 LLM 中的假设风险的重要性。