论文
迈向可信报告生成:具有渐进式置信度估计与校准的深度研究智能体
Towards Trustworthy Report Generation: A Deep Research Agent with Progressive Confidence Estimation and Calibration
摘要
随着基于智能体的系统不断演进,深度研究智能体已能跨领域自动生成研究风格的报告。尽管这类智能体有望简化信息综合与知识探索,但现有评估框架通常基于主观维度,未能捕捉报告质量的一个关键方面:可信性。在没有真值答案的开放式研究场景中,现有评估方法无法有效衡量所生成内容的认知置信度,导致校准困难,使用户容易受到误导性或幻觉信息的影响。为弥补这一局限,我们提出一种新型深度研究智能体,在报告生成流程中融入渐进式置信度估计与校准。我们的系统采用深思熟虑式搜索模型,具备深度检索与多跳推理能力,将输出锚定在可验证的证据上,同时为每条论断赋予置信度分数。结合精心设计的工作流,该方法生成可信且透明度更高的报告。实验结果与案例研究表明,我们的方法大幅提升了可解释性,并显著增强了用户信任。
