检查机器人：评估嵌入式人工智能的功能和安全性

通用语言模型越来越能够控制机器人硬件。因此，了解这些模型的功能和安全性对于了解其社会影响和风险变得越来越重要。为此，我们引入了 Inspect Robots，这是一个模块化的开源框架，用于开发和运行智能体的评估。 Inspect Robots 将可定制、可重复使用的抽象与用于指定物理评估并分析其结果的基础设施配对，以自动执行评估设置、执行和终止。我们通过使用 Inspect Robots 来评估六个基于前沿语言模型的策略的功能和安全性来演示 Inspect Robots。 Inspect Robots 的早期应用非常广泛，自发布以来的三个月内下载量接近 100,000 次。