万一 AI 发展出意识，我们能否察觉？科学家给出了判断标准

本文来自微信公众号：SF 中文 （ID：kexuejiaodian），作者：SF

看过电影《黑客帝国》的伙伴可能还记得，在影片中，人类都生活在一个由人工智能控制的世界中，从出生到死亡，都被 AI 安排得明明白白。男主角尼奥和其他觉醒的人类要做的就是推翻 AI 的统治。AI 获得意识，进而威胁人类，这是科幻作品中常见的桥段。在现实生活中，也有不少人担心 AI 会拥有意识。

文 | 梅林

今年年初，ChatGPT 的横空出世点爆了科学界和舆论，让 AI 这个此前人们还觉得比较科幻的话题真正走进了我们的生活。

5 月，中国启动了大模型标准化工作。8 月 31 日，百度、字节跳动、中国科学院等 8 家企业和机构的大模型产品成为首批通过《生成式人工智能服务管理暂行办法》备案的 AI 大模型，可以正式上线，向公众提供服务。

警报！拥有意识的 AI 会威胁人类

AI 的发展为我们带来了机遇，也造成了挑战。一时间，关于 AI，在舆论场引发了一场广泛的争论。

支持“AI 拥有意识会威胁人类”的一派对此持有悲观的态度。他们纷纷发出警告，声称像 GPT（基于转换器的生成式预训练模型，generative pre-trained transforme）这样的 AI 工具可能会对人类构成威胁。他们中的一些人认为，GPT 可 能 是 点 燃 通 用 人 工 智 能（artifificial general intelligence）诞生之势的第一个“火花”，而通用人工智能是一种能感知、有意识的机器，它们的智慧可以超越人类。与它们相比，我们人类将变得微不足道。

而反对者则认为，目前还没有任何科学依据可以证明，大型语言模型现在具有或者将来会具有主观体验、感知能力这样人类或智力较高的动物才拥有的能力。换句话说，AI 悲观者们似乎有些杞人忧天了。技术乐观者们觉得，AI 完全不具备我们的生命特征 —— 我们通过感官来感知周边的世界，进而形成意识，而 AI 只是机器，不能同世界产生类似的互动，因而完全不会形成意识。

正如“人工智能之父”、法国计算机科学家杨立昆（Yann LeCun）所说，现今的 AI 不太可能发展成通用 AI，所以它们对人类没有严重的威胁。不过，这些持有乐观观点的人也确实过于乐观了 ——AI 对人类的威胁确实存在。

现在的 AI 即便不拥有意识，但也让一些人放弃了 AI 不擅长，但人类所特有的一部分能力，比如，创作小说。现在，一些 AI 经过训练，已经能够帮助人类创作小说。因此，有些作者把创作情节推进部分的工作交给了 AI，这样他们就能从费脑的创意性工作中解放出来。长此以往，人类引以为傲的“思考”就完全可由 AI 取代，而我们也将越来越缺乏思考能力。

我们亲测的由“文心一言”生成的小说梗概。

双方都有各自的道理：悲观者的担心不是没有道理，比较 AI 如何处理数据和信息，做出决策，对于我们来说还是一个“黑盒”，我们现在也无法确认未来 AI 到底会不会拥有意识；而乐观者的观点更有现实意义，指出了 AI 与我们人类的本质差别，也指出了现阶段我们依赖 AI 存在的问题。

至于 AI 会不会像《黑客帝国》讲述的那样，成为统治我们人类的“主宰”，还需要科学家进一步的研究。

如何判断 AI？

未雨绸缪，一些科学家在应对拥有意识的 AI 方面已经走在了前列。近日，一个由 19 位计算机科学家、神经科学家和哲学家组成的研究团队发表文章（未经同行评议）指出，根据一些人类意识理论，他们提出了用于判断人工智能是否拥有意识的 14 项标准。

这是论文中列出的 14 项标准。AI 匹配的标准越多，那么它们拥有意识的可能性就越大。（P. Butlin et al.，2023）

要判断 AI 是否拥有意识，首先要给意识下一个定义。科学家决定采用纽约大学的心理学家内德・布洛克（Ned Block）提出的“现象的意识”来定义意识，简单来说，意识就是主观感受的体验，比如你看到了红色的花，或是感觉到疼痛。

那么怎么去探究 AI 的意识呢？和人类不同，人类可以通过脑电图或是磁共振成像来检测大脑信号，进而探究人类的意识。科学家总不能给 AI 做磁共振成像吧？科学家反而选择从人类的意识理论出发，发掘出意识最基本的一些标准，然后再在 AI 的底层架构中寻找符合这些标准的特征，以此判断 AI 是否拥有意识。

利用这些标准，科学家对目前一些主流的 AI 工具，比如 ChatGPT、PaLM-E，进行了测试。他们发现，目前，没有任何一个 AI 可以同时满足多个标准，因此它们都没有拥有意识，至少现在是这样。

参考文献：

• https://doi.org/10.48550/arXiv.2308.08708