论文
DialToM:预测国家驱动的对话轨迹的心理理论基准
DialToM: A Theory of Mind Benchmark for Forecasting State-Driven Dialogue Trajectories
摘要
我们介绍 DialToM,这是一种带注释的心理理论 (ToM) 基准,使用多项选择评估框架根据自然主义的人与人对话构建。最近的工作显示了综合环境中显式心理状态推断和应用 ToM 之间的差距~\cite{gu2024simpletom},我们建立了一个更严格的\emph{状态驱动诊断探针},其中模型必须仅从没有对话上下文的孤立心理状态概况中预测状态一致的对话轨迹。我们的评估揭示了系统推理的不对称性——LLM 擅长推断心理状态(字面 ToM),但很难利用它们进行社会预测(功能 ToM)。至关重要的是,领域专家在这项任务上实现了 100% 的准确率,证明了其有效性并建立了人类与人工智能之间明显的能力差距。此外,师生推理注入探针表明,Gemini 3 Pro(建立了领先的基线)拥有强大的功能性 ToM 功能,可进行上下文无关的预测,并且可以转移到较弱的模型。 DialToM、其评估代码和数据集可在 https://github.com/Stealth-py/DialToM 上公开获取。