将主动推理用作AI Agent的上下文获取

交互式AI Agent必须尽可能高效地获取正确的上下文。当用户遗漏了某个约束、偏好、文件或任务变量时，Agent可以带着默认假设继续执行，也可以花费token进行澄清提问、检索调用、工具调用或提示词试验。我们将这种权衡形式化为用于上下文获取的主动推理。内层推理步骤更新对潜在任务状态的信念，外层决策在成本约束下选择下一个上下文动作、任务动作或停止动作，以最小化期望自由能。在确定性设置中，认知项简化为期望信息增益，可选地按token成本归一化。我们在最优提问（Optimal Question Asking, OQA）中实例化该框架，给出精确后验与动态规划oracle，并在25到300个候选的二分类和多路分类任务上对前沿语言模型进行基准测试。我们还研究了生成前的澄清提问以及token预算约束下的自动化提示词优化。该形式化与模型无关，并将主动推理视为AI Agent上下文获取层的设计原则。