启发很重要：提示和查询协议如何在稀疏观察下塑造 LLM 替代项

大语言模型 越来越多地用作低数据优化的替代模型，但它们面向优化器的预测及其不确定性仍然知之甚少。我们研究了在稀疏观察下从 LLM 引出的替代信念，表明它强烈依赖于提示文本和查询协议。我们引入了一种不确定性对齐标准，用于衡量模型不确定性是否跟踪样本一致函数之间的残余模糊性。在受控推理任务和贝叶斯优化研究中，我们发现结构提示充当有效的先验，POINTWISE 和 JOINT 查询引发不同的信念，顺序证据导致非单调的、顺序敏感的置信度更新。这些影响改变了下游采集决策和遗憾，表明启发协议是 LLM 代理规范的一部分，而不是格式化细节。