论文

超越单次:面向田野实验学习的AI智能体

Beyond One-shot: AI Agents for Learning in Field Experiments

应用与实践科学研究

摘要

组织通常会进行 A/B 测试实验,但一项实验生成的数据并未充分利用来为后续干预设计提供信息。从先前的实验数据中提取可操作的知识来为新的干预措施提供信息存在重大障碍。我们研究工具增强的智能体AI是否可以自动从实验数据中学习,以在后续实验中产生新的干预措施。通过医疗保健处方消息传递的两阶段现场实验(693,139 名患者就诊),我们将人类 + 聊天机器人方法(第 1 阶段:行为专家与对话式 AI 共同设计 13 个消息变体,444,691 名患者就诊)与工具增强代理 AI 方法(第 2 阶段:人工智能从第一阶段数据中自主提取原理以生成 17 个新变体,248,448 名患者就诊)进行比较。 Agentic AI 方法配备了分析工具、结构化数据-信息-知识-智慧 (DIKW) 推理代理和透明的证据链,可产生卓越的干预措施:最佳 AI 生成的消息实现了 69.8% 的点击率(比基线高出 6.5 个百分点)。至关重要的是,我们的结果表明,该价值来自特定领域的实验数据,而不是一般推理能力:没有实验数据的前沿大语言模型无法预测哪些干预措施会成功。现场实验还表明,用于干预设计的通用行为理论并不能统一扩展到特定的医疗保健环境,这激发了在现场实验规模上进行理论审计的智能体AI方法。我们的研究表明,工具增强型人工智能可以从实验数据中学习并生成改进的领域相关干预措施,将行为实验从一次性评估转变为可扩展的累积设计学习系统。

超越单次:面向田野实验学习的AI智能体:论文配图
图 1:两阶段学习架构的概念概述。第一阶段通过随机现场实验测试多种干预变体。第二阶段使用工具增强的代理人工智能从第一阶段的数据中提取行为原则并生成新的干预措施,然后在第二次现场实验中进行验证。