Ben Thompson：AI 已来，你最应该担心的不是生命，而是存在的意义

如果AI消灭了人类生存的意义的话，又有多少人会关心AI会不会毁灭人类生命呢？

编者按：知名科技博主Ben Thompson从近期比较热门的两篇人工智能方面的文章谈起，探讨了人工智能的定义与历史，并从一个更加广泛的角度分析人工智能未来对人类的影响——相对于担心将来超级AI会不会威胁人类的生命，AI更加迫在眉睫的威胁也许是消灭了人类存在的意义？

Chris Dixon在《大西洋》上面写了一篇文章，题目叫做《亚里士多德如何创造了计算机》，这篇文章实在是太出色了：

计算机史往往是从实物史的角度进行讲述，先是算盘，然后是巴贝奇差分机，再到二战时的密码分析机。实际上，把它理解为想法史会更好，那些想法主要诞生自数理逻辑，这是一门形成于19世纪，晦涩难懂、像邪教一样的学科。数理逻辑的先驱是身兼哲学家与数学家双重角色的人，其中最著名的是George Boole（乔治·布尔）和Gottlob Frege（戈特利布·弗雷格），而他们又受到莱布尼茨通用的“概念语言”这一梦想以及亚里士多德古代逻辑体系的启发。

Dixon接着讲述了布尔逻辑的发明（只有两个值：真和假，分别以1和0对应），以及香农发现了这两个变量可以用电路来表示，而这种电路本身也只有两种状态：也就是开和关。Dixon写道：

香农的成就还可以换一种方式描述，那就是他是第一个区分了计算机的逻辑层和物理层的人。（这种区分对于计算机科学实在是太重要了，以至于今天的读者很难理解它这种见解在当时的深刻性——这不禁会让人想起那句格言“上一世纪的哲学是下一世纪的常识。”）

Dixon的说法其实还是比较节制的：这种区别对于计算机科学家来说也许很明显，但恰恰却是为Dixon这篇非凡文章打下坚实基础的那种区分的清晰表述。“计算机”作为一种流行的概念化显然不是亚里士多德发明的，但他创造了让计算机可以发挥作用的手段（或者更精确地说，让人类沿着这一路径继续走下去）。

此外，你也可以从相反的方向去归纳香农的洞察：逻辑层和物理层的区分要依赖于它们可以作为整体的两个部分来实现。也就是说，香农发现了如何将逻辑性和物理性融合成现在所谓的计算机的办法。

为此，电路物理设计的显著改进（首先是晶体管的发明，然后是后续摩尔定律的应用）当然意味着逻辑应用上去的速度显著提升。或者，用人类的话来说，计算机思考速度的提升。

AI 50年

前不久美国财政部长Steve Mnuchin“轻描淡写地排除了AI和机器学习很快将取代大量人力的说法，说‘这甚至还没有出现在我们的雷达屏幕上’，因为这是个‘50或100年’之后的问题。”

对此技术界的大多数自然是吃惊的：那些看似没完没了的人工智能行动计划的声明以及TC上的初创企业Mnuchin难道都没读过吗？

不过再次地，Mnuchin的观点也许比你所想的要更有道理一些，只需看看Maureen Dowd在《名利场》的那篇《面对人工智能天启，马斯克发动了十字军东征》：

有一次Musk令人吃惊地对他的朋友和做技术的同事提出了公开谴责，警告称他们会创造出自我毁灭的手段。他告诉彭博社的Ashlee Vance，也就是其自传《Elon Musk》的作者说，他担心他的朋友，Google联合创始人，现母公司Alphabet  CEO Larry Page，担心他虽然有着完美良好的意愿，但是仍然“会意外地制造出邪恶的东西来”——这可能就包括“一支能够摧毁人类的人工智能增强机器人部队。”

文章的其余部分就是一心想着如果计算机比人类聪明的话会发生什么这个问题；Dowd借Stuart Russell之口来解释为什么她要记录这场争端：

在50年内，我们现在处在的这个18个月对于AI社区的未来度会被看作是至关重要的时期。AI社区终于觉醒了，开始严肃思考如何让未来更美好了。

50年：这个时间窗口跟Mnuchin的一样；也许他担心的是跟Elon Musk一样的问题？不过坦率地说，财政部长本人应该关心这类问题吗？

这个问题很显然：这显然不是“人工智能”的含义。

人工智能的定义

人工智能定义起来非常困难，原因有几个。首先，有两种类型的人工智能：《名利场》那篇文章所描述的人工智能是通用人工智能，也就是说计算机能够做人类能做的任何事情。反之则是狭义人工智能（Artificial Narrow Intelligence），这种计算机也能做人类能做的事情，但是仅限于一定的范围。比方说，某种特殊的AI可以下国际象棋，而另一种特殊的AI则可以下围棋。

比较有趣的是，发明了“人工智能”这个词的John McCarthy指出，特殊AI的定义也在与时俱进。特别是一旦过去被认为是人工智能的东西变成了例程——比如前面提到的下国际象棋或者围棋的程序，或者无数被认为属于计算机理所当然的能力等，对于这些我们已经不再称之为人工智能。

这就使得你想说出什么地方才是计算机的终止和人工智能的开始特别的困难。毕竟嘛，过去会计还是人工处理的：

10年不到的时间里，上面这幅图片就变得过时了，被IBM的大型机替代了。计算机正在做人类能做的事情，虽然只是在一定的范围内。那它是不是人工智能？

技术与人类

实际上对于这类创新我们已经有了更多的词来描述了，那就是技术。按照韦氏词典的定义，技术是“知识在特定领域的实际应用。”技术的故事就是人类的故事：控制火、车轮——这些都是技术。由于我们学习和传播知识的能力，所有这些都变革了人类；一旦有一个人能控制火，那么所有人都能控制火就只是时间问题了。

是技术将智人从采集狩猎者变成了农民，然后也是技术变革了农业，使得占比越来越少的一部分人就能支撑其余人的温饱。很多个千年之后，还是技术引领了像飞梭这样工具的产生，让织布的产量翻了一番，推动了对纺织者的需求，进而又推动了用水来驱动的罗拉细纱机的发明。这是人类第一次利用非人力以及动物形式的能量来驱动器技术发明，引起了工业革命的爆发。

你可以看到工业革命与计算机的发明之间存在一定的可比性：前者借助外部能量以系统化的方式进行之前由人类完成的体力劳动；后者借助外部能量以系统化的方式承担之前由人类完成的脑力劳动。这令人想起了乔布斯做过的类比：

我记得我大概12岁的时候读过一篇文章，应该是刊在《科学美国人》上面的，里面测量了地球所有物种的运动效能，也就是从A点移动到B点各自所消耗的卡路里是多少。而秃鹰是其中效能最高的动物，超过了所有其他物种，人类大概排在榜单1/3的位置，表现不算太突出。

但有人想到要试试人类骑上自行车之后的效能。结果发现骑自行车的人运动效能远远超过了秃鹰，高高站上榜首的位置，这给我留下了特别深刻的印象，也就是说人类是工具制造者，我们可以使用工具把这些内在的能力放大到惊人的量级。所以对于我来说，计算机一直都是思维的自行车。

简而言之，尽管Dixon把计算机的逻辑追溯到了古老的亚里士多德，但技术这个东西（计算机无疑也是技术的一部分）要追溯到更久远的历史。我们之所以是人，是因为我们能创造工具来做我们自己做的东西，但同时做得比我们更好更有效率。

机器学习

你会注意到这一定义跟人工智能的定义极其类似；的确，至少在狭义的层面来看，提出人工智能只不过是技术换了个名字的看法是很诱人的。就像我们设计了轧花机一样，于是我们也设计了会计软件，以及自动化制造。实际上，这一切都是相关的：它们都牵涉到刻意的设计，造出一个可重复执行人类预期功能的机器。

不过这正是为什么今天不一样的原因。

记住，尽管逻辑的形成已经有几千年的历史，但只是到了20世纪这种逻辑才跟物理电路融合到了一起。不过一旦这件事情发生之后，这一逻辑的应用发展之快就到了令人难以想象的地步。

与此同时，技术形成的时间甚至比逻辑还要久。然而，就像逻辑的应用长期被束缚于人类大脑之内一样，技术的发展也存在着同样的限制，这也包括计算机时代的上半世纪。会计软件跟细纱机实际上属于同一种类型：都是由人类刻意设计的，用于解决特定问题的东西。

但机器学习就不一样了。现在不是由人类设计算法来让计算机执行了，相反，是由计算机自己来设计算法了。这仍然是狭义的人工智能——计算机仍然受制于数据和人类给它制定的目标，但在我看来，机器学习跟之前的东西在意义上是不一样的。正如香农把物理与逻辑融合到一起造出了计算机一样，机器学习西把工具的开发与计算机本身融合到了一起，从而创造出了（狭义）的人工智能。

这并不是要炒作机器学习：其应用仍然高度受限，而且往往比人类设计的系统要糟糕，而且我们距离通用人工智能还非常非常的遥远。但是在我看来，我们已经坚实地踏上了狭义人工智能的领地：事实上，人类从一开始就在制造机器来替代自己的劳动；只是到了现在机器才开始创造自己，至少在一定程度上如此。（至少这是向同样人工智能迈进的值得鼓励的方向之一）

生命与意义

这个话题重要的原因在于，纯粹技术已经够难管理了：我们为技术进展付出的代价是所有那些不再需要的人类。从长期看工业革命是令人类受益的，但就短期而言却会让人类蒙受巨大灾难，其中间或发生的战争正因为技术的进展所产生的破坏性要大多。

那么机器学习，也就是（相对而言）能以快得出奇的速度创造可替代大量产生数据工作的算法（数据是创造这种算法的关键成分）这件事的潜在影响是什么呢？迄今为止自动化已经取代了蓝领工人，我们是否已经准备好迎接机器学习取代大量白领工人的日子到来了呢？

这就是Mnuchin的言论如此令人不安的原因，但这也是那么多技术人员对通用人工智能如此痴迷一样令人沮丧的原因。我知道那种担心，担心计算机远比任何人类都要聪明会干掉我们所有人；但更应该担心的是一个令大量人变得多余的世界的到来。如果人工智能已经消灭了生存的意义的话，又有多少人会关心人工智能会不会摧毁生命呢？

本文来自翻译：stratechery.com 来自：36kr