设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

万一 AI 发展出意识,我们能否察觉?科学家给出了判断标准

SF中文 2023/9/9 18:11:09 责编:梦泽
感谢IT之家网友 斗皇圣佛 的线索投递!

本文来自微信公众号:SF 中文 (ID:kexuejiaodian),作者:SF

看过电影《黑客帝国》的伙伴可能还记得,在影片中,人类都生活在一个由人工智能控制的世界中,从出生到死亡,都被 AI 安排得明明白白。男主角尼奥和其他觉醒的人类要做的就是推翻 AI 的统治。AI 获得意识,进而威胁人类,这是科幻作品中常见的桥段。在现实生活中,也有不少人担心 AI 会拥有意识。

文 | 梅林

今年年初,ChatGPT 的横空出世点爆了科学界和舆论,让 AI 这个此前人们还觉得比较科幻的话题真正走进了我们的生活。

5 月,中国启动了大模型标准化工作。8 月 31 日,百度、字节跳动、中国科学院等 8 家企业和机构的大模型产品成为首批通过《生成式人工智能服务管理暂行办法》备案的 AI 大模型,可以正式上线,向公众提供服务。

警报!拥有意识的 AI 会威胁人类

AI 的发展为我们带来了机遇,也造成了挑战。一时间,关于 AI,在舆论场引发了一场广泛的争论。

支持“AI 拥有意识会威胁人类”的一派对此持有悲观的态度。他们纷纷发出警告,声称像 GPT(基于转换器的生成式预训练模型,generative pre-trained transforme)这样的 AI 工具可能会对人类构成威胁。他们中的一些人认为,GPT 可 能 是 点 燃 通 用 人 工 智 能(artifificial general intelligence)诞生之势的第一个“火花”,而通用人工智能是一种能感知、有意识的机器,它们的智慧可以超越人类。与它们相比,我们人类将变得微不足道。

而反对者则认为,目前还没有任何科学依据可以证明,大型语言模型现在具有或者将来会具有主观体验、感知能力这样人类或智力较高的动物才拥有的能力。换句话说,AI 悲观者们似乎有些杞人忧天了。技术乐观者们觉得,AI 完全不具备我们的生命特征 —— 我们通过感官来感知周边的世界,进而形成意识,而 AI 只是机器,不能同世界产生类似的互动,因而完全不会形成意识。

正如“人工智能之父”、法国计算机科学家杨立昆(Yann LeCun)所说,现今的 AI 不太可能发展成通用 AI,所以它们对人类没有严重的威胁。不过,这些持有乐观观点的人也确实过于乐观了 ——AI 对人类的威胁确实存在。

现在的 AI 即便不拥有意识,但也让一些人放弃了 AI 不擅长,但人类所特有的一部分能力,比如,创作小说。现在,一些 AI 经过训练,已经能够帮助人类创作小说。因此,有些作者把创作情节推进部分的工作交给了 AI,这样他们就能从费脑的创意性工作中解放出来。长此以往,人类引以为傲的“思考”就完全可由 AI 取代,而我们也将越来越缺乏思考能力。

我们亲测的由“文心一言”生成的小说梗概。

双方都有各自的道理:悲观者的担心不是没有道理,比较 AI 如何处理数据和信息,做出决策,对于我们来说还是一个“黑盒”,我们现在也无法确认未来 AI 到底会不会拥有意识;而乐观者的观点更有现实意义,指出了 AI 与我们人类的本质差别,也指出了现阶段我们依赖 AI 存在的问题。

至于 AI 会不会像《黑客帝国》讲述的那样,成为统治我们人类的“主宰”,还需要科学家进一步的研究。

如何判断 AI?

未雨绸缪,一些科学家在应对拥有意识的 AI 方面已经走在了前列。近日,一个由 19 位计算机科学家、神经科学家和哲学家组成的研究团队发表文章(未经同行评议)指出,根据一些人类意识理论,他们提出了用于判断人工智能是否拥有意识的 14 项标准。

这是论文中列出的 14 项标准。AI 匹配的标准越多,那么它们拥有意识的可能性就越大。(P. Butlin et al.,2023)

要判断 AI 是否拥有意识,首先要给意识下一个定义。科学家决定采用纽约大学的心理学家内德・布洛克(Ned Block)提出的“现象的意识”来定义意识,简单来说,意识就是主观感受的体验,比如你看到了红色的花,或是感觉到疼痛。

那么怎么去探究 AI 的意识呢?和人类不同,人类可以通过脑电图或是磁共振成像来检测大脑信号,进而探究人类的意识。科学家总不能给 AI 做磁共振成像吧?科学家反而选择从人类的意识理论出发,发掘出意识最基本的一些标准,然后再在 AI 的底层架构中寻找符合这些标准的特征,以此判断 AI 是否拥有意识。

利用这些标准,科学家对目前一些主流的 AI 工具,比如 ChatGPT、PaLM-E,进行了测试。他们发现,目前,没有任何一个 AI 可以同时满足多个标准,因此它们都没有拥有意识,至少现在是这样。

参考文献:

  • https://doi.org/10.48550/arXiv.2308.08708

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

相关文章

关键词:人工智能

软媒旗下网站: IT之家 辣品 - 超值导购,优惠券 最会买 - 返利返现优惠券 iPhone之家 Win7之家 Win10之家 Win11之家

软媒旗下软件: 魔方 云日历 酷点桌面 Win7优化大师 Win10优化大师 软媒手机APP应用