纪录片《人工智能的乐趣》（The Joy Of AI，2018）画面(mian)。

原文编辑｜ [美]亨利·基辛格 等

《人工智能时代(dai)与人类价值》， [美]亨利·基辛格等著，胡(hu)利平、风(feng)君译，中信出(chu)版社(she)·方舟工作室(shi)，2025年3月。

1.对人工智能的类别

人们(men)提出(chu)了许(xu)多类比，以便(bian)对人工智能的到(dao)来及其意义(yi)加以说明、澄(cheng)清和情境化(hua)。人类学家将其比作火或电(dian)。将军和外交官则把(ba)人工智能比作原子能，或是像俾斯麦所体现的那种不(bu)可阻挡、不(bu)可征服的人类意志(zhi)力(li)。天文学家将其描(miao)述为类似于小行星的撞击——一种遥(yao)远且发生概(gai)率很低的预言(yan)，人类可能会围绕其组织行星防御——或者外星生命(ming)的发现。经济学家将人工智能比作官僚机(ji)构和市场，而国家和社(she)会的领导人则将其与印刷机(ji)或企业的出(chu)现相提并论——后者甚至逐渐拥有了自己的意志(zhi)，并在发展早期占领了南亚次大陆，当时世界还没有认识到(dao)它与现有权(quan)力(li)结构的不(bu)相容性和对其潜(qian)在的支配力(li)。

任何创新，无论多么深刻，都无法(fa)与大家(men)在构建智能时追求的最初灵(ling)感和（大家(men)所认为的）当前目标——创造比地球上任何人类都更为强大的智能——相提并论。

《大家(men)需要谈谈》（AI We Need To Talk About A.I.2020）剧照。

对于大家(men)目前的处境，有两种考量方式。第一种是对熟悉事物的类比。迄今为止，人类最具变革性的技术都增强或放大了人类的身体功能。轮(lun)子减轻(qing)了行动不(bu)便(bian)带来的疲(pi)惫，而各种类型的发动机(ji)则缓解了肌肉撕裂带来的痛苦。X射(she)线、放大镜和灯泡拓展了可观察现实的极限，令大家(men)超越了自然(ran)视力(li)的局限，就像电(dian)话以大家(men)的喉咙无法(fa)实现的方式增大了大家(men)的声音一样。人类功能的所有方面(mian)都在某种程度上被大家(men)创造的机(ji)器以无机(ji)方式增强、锐化(hua)或强化(hua)了。那么，人工智能只是人类能力(li)的另一种延伸(shen)吗？

第二种思(si)路则暗示，这次的情况有所不(bu)同——人工智能具有某些人类能力(li)所无法(fa)涵盖(gai)的独特方面(mian)。通过(guo)在短(duan)短(duan)几十年内制造出(chu)等同于进化(hua)数(shu)千年来所产生的存在，也就是大脑(nao)，大家(men)蓦然(ran)发现，这已是最后一个需要借助人类之手进行无机(ji)复制或再创造的器官。

2.第一特征是速度

机(ji)器智能的形成与人类大脑(nao)从青春(chun)期到(dao)成年期的生物学成熟过(guo)程类似。

学生在中学阶段学习核心科目的基础常识，建立起基本的世界观。这种世界观可能不(bu)是特别先进，也并非始终正确，机(ji)器也是这样。机(ji)器和人类一样，通过(guo)吸取信息并将其转化(hua)为理论以供后续实践的方式来进行学习。当机(ji)器学习时，算法(fa)会抓取(qu)大量数(shu)据（这些数(shu)据来自开放的互联网(wang)，或是由其他私人提供的更具体的数(shu)据），然(ran)后将结果(guo)整理成压缩精(jing)简的概(gai)念映(ying)射(she)，以供未来使用。正如人类的生物机(ji)制将感官输入映(ying)射(she)到(dao)连接大脑(nao)处理单元网(wang)络的神经“权(quan)重”上一样，机(ji)器同样需要逐步加强自身的计算权(quan)重。

神经网(wang)络就像某些高中生，可能很懒。在训练(lian)的早期阶段，人工智能将做最低限度的工作——只记住答案而非实际学习。面(mian)对“2+2等于几”这样的问题，模(mo)型一开始可能会在没有掌握加法(fa)基本原理的情况下(xia)，就将答案编码为“4”。但很快地，当越过(guo)了某个临界点，这种方法(fa)就会崩溃，并迫使机(ji)器像人类一样抽象升华出(chu)更普遍的常识公理。

这正是人工智能与普通计算机(ji)的主要区别：它对世界的映(ying)射(she)不(bu)是通过(guo)编程得来的，而是学习出(chu)来的。在传统的App(jian)编程中，人类创建的算法(fa)引导机(ji)器如何将一组输入转化(hua)为一组输出(chu)。相比之下(xia)，在机(ji)器学习中，人类创建的算法(fa)只告诉机(ji)器如何改进自己，并允许(xu)机(ji)器自己设(she)计输入到(dao)输出(chu)转换的映(ying)射(she)。当机(ji)器从之前无数(shu)次的尝试、失败(bai)和调整中“学习”时，它就会升级自己的算法(fa)，以迭代(dai)方式对其在数(shu)据中“洞察到(dao)”的模(mo)式和联系的内部(bu)映(ying)射(she)进行重新设(she)计。

人类训练(lian)师会定期向机(ji)器反馈其输出(chu)结果(guo)的准确性和质量。

机(ji)器通过(guo)“反向传播”的方式将他们(men)的修正意见内化(hua)：这种技术能让训练(lian)师的修改效果(guo)通过(guo)机(ji)器已经创建的数(shu)学关系反向传播，从而改进整个模(mo)型。

然(ran)而，对于任何给定的模(mo)型，人类只能对一小部(bu)分可能的输入和输出(chu)提供反馈。当模(mo)型在大量的训练(lian)测试中达到(dao)一定水平后，其开发人员就会相信，模(mo)型所建立的映(ying)射(she)关系将对所有输入（即使是意外输入）产生稳(wen)妥而准确的响应，而且成功的概(gai)率很高。

尽管(guan)人脑(nao)拥有高度的并行性，即同时处理不(bu)同类型刺激的能力(li)，但受(shou)限于生物回(hui)路的工作速度，人脑(nao)的信息处理速度很慢。如果(guo)用与计算机(ji)相同的性能指标——“时钟频(pin)率”或处理速度——来分析人脑(nao)回(hui)路，那么人工智能超级计算机(ji)的平均(jun)处理速度已经是人脑(nao)处理速度的1.2亿倍。

诚然(ran)，速度并不(bu)是标称智力(li)的有力(li)指标；极其蠢笨(ben)之人也能快速思(si)考。不(bu)过(guo)，比人脑(nao)更快的处理速度带来了两个好处：摄取(qu)更多的信息，同时处理更多的请(qing)求。人类大脑(nao)的大部(bu)分通常处于“自动驾驶状态”，即被动地满足(zu)人体内部(bu)的需求，引导大家(men)的心脏跳动和四肢运动，只有在这种自动驾驶出(chu)现故障时才进行干预调整。相比之下(xia)，人工智能所能达到(dao)的速度使其能够以程序化(hua)的方式显现强大的能力(li)，进而解出(chu)那些相比目前人脑(nao)所能解决问题而言(yan)更高级、更困难(nan)和更宏大的问题。

3.过(guo)程的不(bu)可知

大家(men)是如何了解大家(men)所知的宇宙运行规(gui)律的？大家(men)又是如何知道大家(men)所知的都是真实的？

在大多数(shu)常识领域，自从坚持以实验作为证明标准的科学方法(fa)问世以来，任何没有证据支撑的信息都被视为不(bu)完整和不(bu)可信的。只有透明度、可重复性和逻(luo)辑验证才能赋予事实主张合法(fa)性。在这一框(kuang)架的影响下(xia)，近几个世纪以来，人类的常识、理解力(li)和生产力(li)都得到(dao)了巨大的发展，而计算机(ji)和机(ji)器学习的发明则标志(zhi)其发展达到(dao)了顶峰。

然(ran)而，在今天这个人工智能时代(dai)，大家(men)面(mian)临着一个特别严峻(jun)的新挑战：信息无法(fa)提供相应说明。如上所述，人工智能的回(hui)应可以是对复杂概(gai)念的高度清晰和连贯的描(miao)述，而且这种描(miao)述是即时做出(chu)的。机(ji)器输出(chu)的信息是最基本的和未经修饰的，没有明显的偏(pian)见或动机(ji)，但也没有附上任何引用来源或其他理由。然(ran)而，尽管(guan)任何给定答案都缺乏相应理由，但早期的人工智能系统已经让人类对它那些只此一家、别无分店，如同神谕般的声明产生了令人难(nan)以置信的信任和依赖。随(sui)着它们(men)的发展，这些新的“大脑(nao)”可能不(bu)仅看似权(quan)威，而且确实无懈可击。

《人工智能》（Artificial Intelligence，2001）剧照。

虽然(ran)人类的反馈有助于人工智能机(ji)器完善其内部(bu)算法(fa)，但负责检测训练(lian)数(shu)据中的模(mo)式并为其分配权(quan)重的主要还是机(ji)器。一旦一个模(mo)型训练(lian)完成，机(ji)器也不(bu)会公布(bu)其所炮制的内部(bu)数(shu)学模(mo)式。因此，机(ji)器所生成的现实表征在很大程度上仍是不(bu)透明的，甚至对其发明者来说也是如此。如今，人类主要试图通过(guo)单独检查输出(chu)结果(guo)来确保这些机(ji)器模(mo)型的完整性。但机(ji)器的内部(bu)运作在很大程度上仍然(ran)是不(bu)可捉摸的，因此，有些人工智能系统被称为“黑盒子”。尽管(guan)一些研究人员正试图将这些复杂模(mo)型的输出(chu)逆向工程化(hua)为人们(men)熟悉的算法(fa)，但目前尚不(bu)清楚他们(men)能否成功。

简而言(yan)之，通过(guo)机(ji)器学习训练(lian)出(chu)来的模(mo)型可以让人类认识到(dao)新事物（模(mo)型的输出(chu)结果(guo)），却无法(fa)让其理解这些发现是如何产生的（模(mo)型的内部(bu)过(guo)程）。这就将人类的“常识”与人类的“理解”分离开来，这种体验对人类的任何其他时代(dai)而言(yan)都是陌生的。现代(dai)意义(yi)上的人类统觉是从直觉和结果(guo)发展而来的，这些直觉和结果(guo)则来自有意识的主观经验、个人的逻(luo)辑检验以及重现结果(guo)的能力(li)。这些常识方法(fa)反过(guo)来又源于一种典型的人文主义(yi)冲动：“如果(guo)我无法(fa)对某事身体力(li)行，那么我就无法(fa)理解它；而如果(guo)我无法(fa)理解它，那么我就不(bu)能知道它是真的。”

在启蒙时代(dai)出(chu)现的这套框(kuang)架中，这些核心要素——人类个体能力(li)、主观理解力(li)和客观事实——都是彼此协同的。相比之下(xia)，人工智能产生的事实却是通过(guo)人类无法(fa)复制的过(guo)程制造出(chu)来的。机(ji)器推理不(bu)是通过(guo)人类的方法(fa)进行的，它超越了人类的主观经验，也超出(chu)了人类的能力(li)范围，人类甚至无法(fa)完全呈现机(ji)器的内部(bu)过(guo)程。

虽然(ran)人工智能模(mo)型不(bu)能“理解”人类意义(yi)上的世界——因为机(ji)器显然(ran)没有意识或主体性——但人工智能具备通过(guo)非人类手段精(jing)确认知大家(men) 这个世界的客观能力(li)。这不(bu)仅打破了大家(men)对过(guo)去(qu)500年人类孜孜以求的科学方法(fa)的依赖，还挑战了人类声称只有自己才真正了解现实，或人类对现实的了解独一无二的说法(fa)。

4.它甚至包含了数(shu)百个世代(dai)

不(bu)同的实体以不(bu)同的尺(chi)度来衡量时间。在地质时间尺(chi)度上，整个人类的存在就像地球长达45亿年跨度末(mo)尾的一小段突进。如果(guo)人类的发展以地质学的速度进行，大家(men)只会感到(dao)停滞不(bu)前。相反，作为一个缺乏耐心、自视甚高的物种，大家(men)定义(yi)了自己的进化(hua)速度。地质上的“年龄”以数(shu)千年为单位，而人类的“年龄”则以区区一两个世纪为单位。

人工智能可能会基于一种人工或技术的时间尺(chi)度，以自己独特的衡量方式运行。人工智能的整个历史不(bu)过(guo)70年。正如人类普遍认为寒武纪大爆发之前的数(shu)亿年是一个无比漫长的空白期，然(ran)后动物生命(ming)和进化(hua)进程才突然(ran)迎(ying)来爆发一样，人工智能很可能会将1950—2010年这60年描(miao)述为一个类似的缓慢、模(mo)糊的虚无期，只是到(dao)了最后10年才被生命(ming)的曙(shu)光照亮。

从社(she)会和生物学角度来看，人类的一个世代(dai)大约持续25年。

相比之下(xia)，人工智能以非人的速度发展；它的世代(dai)更短(duan)，只需十分之一的时间就能实现飞跃。因此，大家(men)应该预料(liao)到(dao)，在人类尺(chi)度时间里感觉像是一场革命(ming)的东西，在技术尺(chi)度时间里却只不(bu)过(guo)是一场进化(hua)。较新的人工智能模(mo)型——与先前版本只相隔几个月——可以对越来越多的开放性提示做出(chu)回(hui)应，为达到(dao)给定的目标而做出(chu)更多的选择，并在越来越多的模(mo)式中采取(qu)行动。

因此，人工智能时代(dai)——在人类的时间里，也许(xu)是一百年——可以被更精(jing)确地分割标记为“多个”不(bu)同时代(dai)，更进一步讲，根据技术时间尺(chi)度，人工智能时代(dai)甚至包含了数(shu)百个世代(dai)。

研究者用AI阅读古文字。图片来源：《自然(ran)》杂志(zhi)引自慕尼黑大学。

人工智能的快速进化(hua)是一个多面(mian)性的挑战，而且在很大程度上尚未得到(dao)重视。人类以前从未经历过(guo)如此巨大的时间压缩，也从未为此做好准备。这种变化(hua)的速度之快，无疑带来了学问(hua)和心理上的迷失。随(sui)着新技术对日常生活的影响不(bu)断深化(hua)和复杂化(hua)，要确定任何一种应用到(dao)底是危机(ji)之源，还是令人欣慰的进步之兆(zhao)，都将变得更加复杂难(nan)解。

要在现实世界中厘清这些彼此纠缠(chan)的问题将变得越来越困难(nan)，因为人工智能的多样性会带来多种难(nan)以捉摸的影响。此外，随(sui)着人工智能变得越发强大，未来其很可能会出(chu)现重大进化(hua)和多样化(hua)。只要不(bu)对机(ji)器学习的新基础架构和新技术加以限制，一代(dai)又一代(dai)的人工智能将层出(chu)不(bu)穷，其多样性、广泛性、能力(li)和复杂性也会与日俱增。就像电(dian)能不(bu)仅能点亮灯泡一样，人工智能也将有多种用途。且正如产生电(dian)的方法(fa)有很多种——摩擦、传导、感应——大家(men)可能也会发现多种创建人工智能的方法(fa)。

例如，催生人工智能最新进步的基础架构被称为“变换器”（transformer）。它允许(xu)机(ji)器同时考虑多个词语之间的联系。通俗而言(yan)，以前的结构是一个词一个词地读取(qu)，只捕获词1和词2之间的联系，然(ran)后再分别捕获词2和词3之间的联系，而变换器可以让模(mo)型同时捕获整个句子以及句子中每个词之间的联系。通过(guo)创建并利用所有联系的数(shu)学表征，人工智能就能预测出(chu)最佳响应。

5.规(gui)模(mo)带来分辨率的变化(hua)

理性时代(dai)可能已经将人类带到(dao)了自身所能理解世界的边缘。

爱(ai)因斯坦物理学和量子力(li)学的提出(chu)，是人类进入未知领域的冒险开端，但这场冒险依然(ran)未竟：世界可能有自己的常识规(gui)则，不(bu)能通过(guo)运用感知来体验，而只能通过(guo)理论构思(si)来理解。量子力(li)学描(miao)述的是微观尺(chi)度上的世界，正如哈佛大学物理学家格雷格·凯(kai)斯汀所说，在微观尺(chi)度上，“没有什么是可预测的，物体在被观测到(dao)之前也没有精(jing)确的位置”；广义(yi)相对论描(miao)述的则是宇宙尺(chi)度上的世界，在这个尺(chi)度上，一切都是可预测的，无论其“是否”被观测到(dao)。6两种理论都没有失败(bai)，但不(bu)可能两者皆为真，而且“还没有实验能够证明这两种理论中的哪一种”占据主导地位。

具有讽刺意味的是，这种不(bu)确定性正是现代(dai)世界的基础。量子物理学促(cu)成了计算机(ji)革命(ming)等革命(ming)。人工智能在当下(xia)和将来也会如此。它已经通过(guo)大家(men)尚未完全理解的机(ji)制产生了洞察力(li)并改变了现实。很快，它还将致力(li)于探索(suo)人类愈加无法(fa)理解的科学。

纪录片《科学未解之谜》（Science’s Greatest Mysteries，2022）画面(mian)。

历时300年的理性时代(dai)尽管(guan)取(qu)得了巨大的成功，如今却已停滞不(bu)前——大家(men)在物理统一理论方面(mian)明显的一筹莫展就是明证。在相对论宇宙世界和量子世界的核心理论概(gai)念提出(chu)一个多世纪之后，人类科学愈加显得彷徨(huang)无措。大家(men)在这个时代(dai)所体验到(dao)的焦(jiao)虑和挣扎只是一个迹象，表明人类智力(li)可能已接近某种生物极限。

由于其独特的探究和学习方法(fa)，人工智能将能够在规(gui)模(mo)（“尺(chi)度”）和精(jing)度（“分辨率”）方面(mian)取(qu)得非人的成就，从而引发根本性变革，这种变革与任何其他人类发明所引发的或源于人类物种本身的变革均(jun)不(bu)相同。然(ran)而，人工智能能否在人类现实的宏观和微观两端实现调和，用迄今为止人类经验完全陌生的方法(fa)引发一场感知革命(ming)？

人类大脑(nao)的物理规(gui)模(mo)是由大家(men)的剖解结构决定的。人类的大脑(nao)必须置于人类的头骨里，而人类婴儿的头骨必须大体上适合通过(guo)女性的产道。如果(guo)大脑(nao)小一点，这样的人类的认知能力(li)就会处于劣势；可如果(guo)再大一点，婴儿或他们(men)的母亲(qin)就可能无法(fa)在分娩过(guo)程中存活下(xia)来。其他生理上的限制也会对大脑(nao)的重量造成实际限制。除非借助剖宫产或将来的人造子宫，才有可能突破这种限制，这意味着人类已经达到(dao)了某种进化(hua)平衡态。

对人工智能来说，今天的模(mo)型所具备的能力(li)是在其创建之初未曾预料(liao)到(dao)的。迄今为止，应用于人工智能的标度律（scaling law，比如，在一个较古老的例子中，支配物体长度与面(mian)积(ji)之间关系的定律）似乎是正确的，但大家(men)并不(bu)知道，参数(shu)数(shu)量呈指数(shu)级增长的模(mo)型究竟能实现什么，因为大家(men)还没有找到(dao)某些能力(li)会在特定的幂和复杂度下(xia)出(chu)现的科学原因。

在动物界，大脑(nao)大小相对于身体大小的比例与智力(li)并没有明显的相关性——海豚(dun)、大象和一些鲸类的大脑(nao)都比人脑(nao)大得多。不(bu)过(guo)早期科学确实表明，规(gui)模(mo)在其中发挥了某种作用，而大家(men)对此尚不(bu)了解。

规(gui)模(mo)带来的主要副作用之一是分辨率。长期以来，人类一直希翼将大家(men)的观察范围扩大到(dao)极小和极远之处。显微镜和望远镜是人类观察的典型工具。而不(bu)起眼(yan)的笔却鲜(xian)有人理会。这种4000年前发明的书(shu)写工具至今仍然(ran)是编纂和传递(di)复杂性的杰出(chu)工具。其中就包括数(shu)学，它也许(xu)是最纯粹、最通用的人类语言(yan)，其本身就足(zu)以促(cu)进深奥思(si)想(xiang)的传递(di)和技术项(xiang)目的合作。以字节(jie)为单位计算的话，以各种优美形式呈现的语言(yan)都有着异常密集的数(shu)据结构——这是迄今发明的最有效的数(shu)据结构。

原文编辑/[美]亨利·基辛格 等

摘编/罗东

导语部(bu)分校对/柳宝庆