论文
CT-SAFR：自主机器人的安全且可解释的思想链推理：用于值得信赖的人工智能驱动的机器人决策的多层验证框架
CT-SAFR: Safe and Interpretable Chain-of-Thought Reasoning for Autonomous Robots: A Multi-Layered Verification Framework for Trustworthy AI-Driven Robotic Decision Making
摘要
思想链 (CoT) 提示使 LLM 能够执行明确的、逐步的推理，为复杂的自主机器人创造机会。然而，最近的研究表明，推理模型仅在 25-39% 的时间内用语言表达其实际决策过程，而 忠实性 在复杂任务上的性能下降了 44%。本文提出了 CT-SAFR（机器人思想链安全和 忠实性），这是一种多层验证框架，可实现 94.2% 的幻觉检测（n = 500，95% CI：91.8-95.9%），延迟低于 500 毫秒。通过仓库机器人案例研究，这项工作证明不安全推理输出减少了 87% (p < 0.001)，并为负责任地部署具有推理能力的自主机器人提供了建议。