论文
ReasoningLens:大型推理模型的分层可视化和诊断审核
ReasoningLens: Hierarchical Visualization and Diagnostic Auditing for Large Reasoning Models
摘要
大型推理模型的出现引入了异常长的思维链痕迹,造成了透明度负担,关键逻辑常常被埋在大量的程序文本之下。为了解决这个问题,我们提出了 ReasoningLens,这是一个开源框架,专为复杂推理链的分层可视化和诊断审核而设计。 ReasoningLens 通过以下方式解决信息剖析问题:(1) 将跟踪构建为交互式层次结构,将高级策略与底层执行分开; (2) 利用代理审计员进行自动错误检测和工具增强验证; (3) 综合系统推理概况以揭示模型特定的盲点。通过将非结构化文本墙转化为可操作的见解,ReasoningLens 为解释、调试和优化下一代以推理为中心的人工智能提供了模块化基础。