论文
ShiJianBench:投资顾问远景评估从对话到决策
ShiJianBench: From Dialogue to Decision for Long-Horizon Evaluation of Investment Advisors
摘要
对话式投资顾问不仅影响用户的了解,还影响他们随着市场状况的变化做出后续决策的方式。现有的评估主要评估响应质量或观察到的结果,使得从顾问语言到投资者行为的长期路径难以审计。我们介绍了ShiJianBench,这是一个离线框架,用于通过固定历史市场反馈下匹配的投资者轨迹来评估对话式投资顾问。其核心是一个多主体投资者模拟器,具有明确的不断发展的状态变量、动机驱动的审议、长期记忆和基于对话的更新。该模拟器根据 7,199 个真实用户的总体行为模式进行校准,并在硬合规门下使用单独的投资者方、服务方和内容方指标来评估顾问策略。对 2021 年至 2026 年中国基金市场轨迹进行的实验确定了一个稳定的领先 LLM 顾问团队,该团队将更强大的个性化内容与具有竞争力的投资者方轨迹结果相结合。这些结果揭示了产生高质量响应和提供有效的长期干预之间的系统区别,从而激发了对对话顾问的轨迹感知评估。