胡泳

从与机器赛跑到第二次机器反派

人工智能反派被称作第四次工业反派。第一次性工业反派是蒸汽机反派，第二次工业反派是电力反派，接上去是以电脑、互联网为主的第三次工业反派，它是一场消息化反派。而后终于到来第四次工业反派。

第四次工业反派是什么？便捷概括一下，它同前面不同的中央在于技术融合。融合是一个关键词，含糊物理、数字、动物畛域之间的界限，出现了网络-物理系统。所以咱们讲数字孪生，无理想环球有一个，在数字环球必定有另一个。此外，新兴技术在许多畛域取得打破，包含机器人、人工智能、纳米技术、量子计算、动物技术、物联网、工业物联网、第五代5G通信技术、增材制作/3D打印和智能驾驶汽车等。

工业反派开展历程：从蒸汽动力到网络-物理系统

这些技术简直推翻了每个国度的每个行业。这些变动的广度和深度预示着整个消费、控制和控制系统的转变。概括起来，咱们把它们叫做第四次工业反派。

但这只是一个分法，其实人类发明各种各样的说法，对咱们所面对的现象启动不同的划分。我再来引入另一个划分，就是无关机器和人的相关疑问。

麻省理工学院的两位钻研者写了一本书叫《第二次机器反派》，它给了咱们另一种分法。所谓的第二次机器反派必定是对应着在前面有第一次性机器反派，这两个作者之前写的书叫做《与机器赛跑》，从书名来看，那个时刻人还有一种主体性，还有一种动力说让咱们和机器赛跑，说不定咱们就战败它了。那个时代，咱们以为兴容许以造出一个击败国内象棋冠军的机器人，然而无法能有一个程序可以击败围棋，由于围棋号称比国内象棋复杂太多了，所以咱们感觉还可以赛跑。当天咱们说“与机器赛跑”必需过期了，曾经没方法跟机器赛跑了。总不能说人工智能程序下一个要攻破的指标是麻将？

《与机器赛跑》、《第二次机器反派》Erik Brynjolfsson / Andrew McAfee 著

所以两位作者如今写的旧书叫做《第二次机器反派》。第一次性机器反派探讨的人与机器的相关是这样的，那个时代虽然开启了机器反派，但机器实践上是由人类控制的，休息力也因此显得“更有价值、更关键”。 人类和机器是互补的相关 。有的事咱们干得更好，有的事机器干得更好，双方可以互补。 到第二次机器反派的时刻，这个相关或许不是互补相关，而是代替相关 。

怎样突然之间情势就变得如此渐入佳境？咱们探讨一下逻辑疑问。这两位作者以为基本逻辑就三个。

第一个叫指数级增长，很多例子证实，当天的物品是指数级增长的，造成一个构想力的极限疑问，造成一个敏感的初始值疑问。

第二个叫数字化提高。咱们这么多年来经过数字化把少量的消息积聚起来，究竟有没有发生智慧？假设能够把这个智慧开掘进去会怎样样？作者之一很无心思，把一些谷歌检索的关键词做成一个模型，用这个模型预测三个月之内美国某个中央房价的增长，发现预测的结果相当精准。将数字化消息转换成智慧，他们把这叫做数字化的提高。

第三个叫做组合式翻新。有一句谚语说，摘取路边高扬的果子。为什么低的果子都被摘了，由于人走过去棘手就摘了，高处的摘不到，只要爬梯子。有人问是不是翻新有一天就中断了？但翻新并不是摘果子，而是搭积木，每出现的一个新翻新所能够带来的翻新组合是有限增长的。多参与一个翻新并不是摘掉了一个果子，而是参与了未来重组式翻新的有限时机。因此翻新永远不会中止。

这三点就是他们所谓的第二次机器反派的逻辑，正是由于这样的逻辑，咱们突然间不能够便捷地跟机器赛跑了。

▲底层崇奉令精英群体的观念发生决裂

在这种状况下，大家十分在意的就是上班的未来。未来或许没有上班，一切人都进入无薪时代，真正有上班的人都是贵族，而后由贵族养活少量的没有上班的普通平民。这个观念的突出代表是历史学家尤瓦尔·赫拉利，在前几年一本极为盛行的书中这么写，把大家吓出一身冷汗。

在2018年10月举行的“2018信睿论坛”上，赫拉利提出技术用温水煮青蛙的模式，让人丢弃了自我选用。而21世纪人工智能的反派将会发明无用阶层，不用上班、没法上班，对经济、政治系统来说毫无用途

赫拉利以为，未来的人工智能会造成无用的人类，21世纪最关键的不是镇压盘剥而是镇压无用。 无用的疑问或许比盘剥严重很多倍，上班在很多时刻是每一团体的尊严所在，是他的价值所在。假设他没有上班，这团体怎样还是一团体？这要参差个很大的问号。咱们不能构想一个环球的人都不上班了，虽然你每天都在构想假设不上班会多好，然而假设你不上班一天，会十分不自在，由于咱们曾经被上班所定义了。

当谈到这个物品的时刻，有人不干了，代表性的人物就是李开复。李开复就进去说了，赫拉利骇人听闻，赫拉利虽然是一个历史学者，然而他疑问技术。李开复说必需中止怂恿人类关于AI的恐慌，而且无用阶层这个说法自身是对人的渺小打击，无法以随意说人是无用的。由于咱们是搞AI的，有些事件是AI不无能的，是人无能的。

然而李开复仅仅代表争执的一方。当探讨到AI对人类的影响，咱们不针对普通人，首先由于普通人对AI也不是真懂；其次普通往往是追寻精英的，咱们要看人类的精英，最尖端的精英是怎样看待这个疑问，由于是他们在发明未来的环球。

然而在这个疑问上，人类的精英是决裂的。雷同有宣扬AI的精英进去说AI有十分大的疑问，比如霍金。霍金说人工智能有或许会消灭整团体类文明。霍金逝世前特意关心的是剑桥大学的未来钻研中心，他说以往人类钻研历史发现的假相只要一个，人类的历史就是一部愚昧的历史，咱们能不能反上来想一下人类在什么时刻能够不愚昧？所以人们转而钻研智能的未来是令人快慰的变动。剑桥大学的未来钻研中心有一个十分便捷的使命，就是钻研人工智能在未来会不会消灭人类。霍金在中心揭幕的时刻讲了一段话，他说人工智能的开展或许协助人类消灭疾病、消灭贫穷、阻止气象变动，但也或许发生人们不情愿看到的种种结果，包含发生自主武器、形成经济劫难，以及开展出与人类出现抵触时领有自己志愿的机器。

欧洲正在展开一些立法上班，围绕人工智能和机器人技术建设新规定。欧洲议会的议员会追问机器人会不会有电子人格，这是一个很轻薄的疑问。假设机器人有电子人格，咱们造机器的时刻必定要附加一个最后的开关，就是必要求有一个开关能够让机器人中止做某种事件。假设大家看过克拉克的驰名科幻片《2001太空遨游》，对其中的人工智能电脑哈尔由于不能控制那个开关，结果把人类消灭了。探讨到这里咱们发现，假设机器有自己的人格，甚至希图对发明它的人形成损伤，咱们该怎样办？这是霍金担忧的疑问。

3月，欧盟无关方面与微软、IBM两家公司独特签订了《人工智能伦理罗马宣言》，该宣言指出人工智能技术应当尊重团体隐衷，以牢靠而无成见的模式上班，并且思索到一切人的需求。IBM口头副总裁以为这一动作表白了对人工智能及其社会影响的常年担忧

刚才说到精英群体观念的决裂，还有其余的代表人物，比如埃隆·马斯克。马斯克一边在钻研AI，一边在谈AI的风险。他说人工智能的风险大于核武器的风险，为什么这么说呢？由于AI的才干远超出咱们的想像，而且在以指数增长的速度退化。这里可以回应李开复的说法：“咱们是人工智能专家，咱们懂。”马斯克质问，你真的懂吗？那些所谓的AI专家，他们自以为知道的其实远比他们实践知道的多，他们以为的自己要比实在的自己痴呆得多。咱们每团体其实都是这样，人工智能的专家也毫不例外。

还有比尔·盖茨，他说我不了解为什么有些人关于人工智能的未来毫不担忧。

这是我说的精英的一个营垒，另外一个营垒简直也雷同弱小，比如扎克伯格。在人们探讨人工智能或许形成人类末世场景的时刻，扎克伯格说这种探讨是毫不担任的。人工智能畛域最卓越的华人之一吴恩达说：“当天担忧这些事件，好比担忧火星上的人口过剩。”我特意青睐的一团体工智能专家佩德罗·多明戈斯，在推特上援用了马斯克的话“人工智能是人类文明存在的基本风险”之后，评论道：“一句话：叹息。”他以为马斯克说得齐全不对。

在AI能否淘汰人的疑问上，佩德罗以为AI显然使人更痴呆了

这是人类最痴呆的一群大脑，假设他们在这个疑问上堕入如此决裂的场景，咱们作为普通人何以自处？这个疑问似乎看上去是无解的，包含刚才讲的人工智能究竟会消灭上班还是发明上班。比如段永朝教员讲到厨师可以做培训机器人的上班，可是上班是有一个量的疑问，假设没有少量的上班，有多少人会从厨师转变为训练机器人的厨师呢？

无关AI的争执必定是不会休止的，咱们普通人应该如何自处，这是一个很轻薄的疑问。

理想上不光是人类的未来，或许说上班的未来，也包含机器会不会无看法等等，当咱们对这些发生惶恐，疑问不能失掉解答的时刻，其实有一个前途。这个前途就是要看法到， 这些专家之所以对未来的前景发生不赞同见，不是由于他们知道什么，而是由于他们的底层崇奉不一样。

为什么我强调这个观念十分关键，我最后主题会落到这里。比如那些预测咱们必定会造出无看法的机器人的专家，是由于他置信一个十分基本的假定——人类在实质上是机器。假设人类是机器，咱们当然最终可以建设一个无看法的机器人。而那些以为机器永远不会发生看法的人，也不是由于他是看法专家，而是由于他置信人无法能是纯正的机械动物。

我说到这里大家或许会很纳闷，它不是一个看法疑问，而是一个崇奉疑问。假设一旦谈到崇奉疑问，探讨人工智能必定要解构一些最基本的物品，不能避实就虚探讨人工智能，而是要回到历史上、回到技术整个的开展历程上去解构一些最基本的物品。

▲人工智能时代必需思索的三个疑问

试图从技术史上提炼，其实最终必定会回到这里，最终要解构的物品就是三个基本疑问。

第一个疑问，宇宙的形成是什么。从古希腊以来就争执不休的一个事件。第二个疑问，咱们是什么。咱们是什么的疑问就是人类是什么。第三个疑问，不是一个群体概念，是一个集体概念，就是自我的疑问，我是什么。

为什么这三个疑问在当天变得如此关键，为什么我说这更多是一个哲学的思索？其实你会发现无关这三个疑问的回答都不是繁多答案，所有都是多重选用题。

举一个便捷的例子，比如宇宙的形成，不时有两种思想流派，一种以为宇宙的形成无他，就是原子，繁多的物质。从德谟克利特开局就以为，你作为一团体在这里思索，没有什么初级的，就是原子在静止，这叫一元论。另外一派人波动不赞同，说确实有原子，然而人不止是由原子形成的，总还有点别的物品。

迷信家简直都站在第一营垒，迷信家以为环球的万事万物都可以恢复，假设不恢复，这个事就没方法解释。所以必需找到一个解释，经过恢复论来讲，就必定能够找到这个物质的要素。你的恋情只不过是一些分子静止，你的看法只不过是一些神经元的缠绕，可以经过各种各样的物品来证实这一点。

很多人都坚信，快乐与痛苦关键取决于多巴胺的分泌水平，所谓的快乐只是多肽扛着多巴胺行进

然而二元论者以为这是不对的。当然这里有很多的哲学思索，为什么有的人会置信二元论，有的人会置信一元论，其实实质上咱们归纳为他们对理想实质的崇奉是什么。

再次回到崇奉疑问，咱们会说一元论是理性和现代的，然而这个环球上永远有人置信理性和现代的物品是不对的，还有很多物品是精气的，是原子解释不了的。这就是一元论和二元论的矛盾。哪怕咱们可以证实你跟石头一样都是原子，我跟这个桌子一样都是原子；然而你可以用一个石头、用一个锤子把这个桌子彻底粉碎，毫无内疚。你用一个锤子砸在我脑袋上，你会毫无内疚吗？一元论和二元论在这里会堕入一个渺小的崩塌。

因此我想说，以上三个疑问是当天人工智能时代必需思索的三个疑问，而它的思索方向实质上是要探讨人类的崇奉究竟是什么。 人类崇奉的疑问以往是哲学家们的专利、是神学家们的专利，然而当天的人工智能把这个疑问推到一切人背地， 你也得思索这些疑问。那些做人工智能的人尤其要求思索这个疑问，你是秉持着一种什么样的崇奉在发明这个物品，由于这会选择这个物品未来会到达什么水平，会怎样样运行。