论文

通过文本表格建模从有限的交互中预测人工智能代理的决策

Predicting Decisions of AI Agents from Limited Interaction through Text-Tabular Modeling

应用与实践结构化分析、预测与决策

摘要

人工智能代理以自然语言与不熟悉的对方进行谈判和交易:面对未知卖家的买家机器人,或与供应商谈判的采购助理。在此类交互中,对方的 LLM、提示、控制逻辑和基于规则的后备措施都是隐藏的,而每个决策都可能产生金钱后果。我们询问智能体是否可以通过几次交互来预测不熟悉的对方的下一个决定。为了避免现实世界的日志混淆,我们在受控讨价还价和谈判游戏中研究这个问题,将其表述为目标自适应文本表格预测:每个决策点都是一个结合了结构化游戏状态、提议历史和对话的表行,而同一目标代理(即正在建模的对手)的 $K$ 先前游戏在提示中作为标记的适应示例提供。我们的模型建立在表格基础模型上,该模型使用游戏状态特征和基于 LLM 的文本表示来表示行,并添加 LLM-as-Observer 作为附加表示:一个小的冻结 LLM 读取决策时间状态和对话;它的答案被丢弃,并且其隐藏状态成为面向决策的特征,使 LLM 成为编码器而不是直接的少样本预测器。在 13 个前沿 LLM 智能体上进行训练,并在 91 个支架式智能体上进行测试,完整模型的性能优于直接 LLM-as-Predictor 提示和游戏+文本特征基线。在此表格模型中,观察者特征的贡献超出了其他特征方案:在 $K=16$ 时,它们将两个任务的响应预测 AUC 提高了约 4 个点,并将议价报价预测误差减少了 14%。这些结果表明,将对应预测制定为目标自适应文本表格任务可以实现有效的适应,并且隐藏的 LLM 表示会暴露直接提示未浮现的决策相关信号。