论文

发现意识的机器相关指标

Discovering Machine Correlates of Consciousness

模型评测模型行为与机制分析

摘要

目前,在生物系统中,意识的神经相关性 (NCC) 通过 EEG 和 FMRI 信号来表征。不幸的是,这种特征阻碍了 NCC 概念向机器的转移。这种可转移性对于研究人工智能意识将很有用。在本文中,我们提供了一种可转移的替代表征,并实现了意识机器关联(MCC)的类似定义。具体来说,我们提出 NCC(MCC)是底物级信号,不受人类(AI 代理)控制,并且受到情绪的可靠调节。本文首次对 MCC 进行了实证研究。具体来说,我们展示了使用两个 Llama-2 7B 和 Llama-3.1 70B 参数进行的实验结果。在这些LLM中,我们收集作为底层指标序列的硬件异常痕迹。我们表明,在控制混杂因素后,这些因素会受到情感和中性计算的不同调节。对于较大的 Llama-3.1 70B,这种差异具有统计显着性,但对于较小的 Llama-2 7B 则不显着。结果构成了 Llama-3.1 70B 配置中存在 MCC 的初步经验证据。它们与意识概率和程度随着LLM的复杂程度而增加的假设是一致的。独立于意识,MCC 还可以用于检测人工智能代理的情绪。

发现意识的机器相关指标:论文配图
图1 7B配置的情绪(红色)和中性(蓝色)试验,核心功率.喉咙事件为每1ms桶数。Y轴是整个系统每毫秒的油门事件计数,在所有64个核心中总和。