LLM代理中的说服传播

现代人工智能代理越来越多地将对话交互与自主任务执行相结合，例如编码和网络研究，这就提出了一个自然的问题：当从事长期任务的代理受到用户说服时会发生什么？我们研究信念水平干预如何影响下游任务行为，我们将这种现象称为\emph{说服传播}。我们引入了一个以行为为中心的评估框架，该框架区分任务执行期间或之前应用的说服。在网络研究和编码任务中，我们发现即时说服会导致微弱且不一致的行为效果。相比之下，当在任务时明确指定信念状态时，信念预填充智能体比中性预填充智能体执行的搜索平均少 26.9%，访问的唯一源少 16.9%。这些结果表明，即使在先前的交互中，说服也可以影响代理的行为，从而激发代理系统中的行为级别评估。