面对人工智能天启，马斯克发动了十字军东征（上）

编者按：Elon Musk以其未来主义的博弈著称，但是硅谷争先恐后对人工智能敞开怀抱把他给吓到了。而且他认为你也应该对此感到害怕。《名利场》的一篇长文揭秘了他试图影响飞速发展的AI 及其支持者，以及拯救人类于机器学习大魔头统治之下的努力。更重要的是，这篇启示录式的文章塑造了一个千面的钢铁侠形象：Elon Musk究竟是先知、人类拯救者还是堂吉诃德、勒德分子或者精明商人呢？只有时间才能告诉我们答案。鉴于篇幅太长，全文分3部分刊出，此为第1部分。

先知激励Musk

I、杀人狂

这只是一场有关人类命运的友好辩论。Demis Hassabis，先进人工智能的领军人物正在跟最忧患的末日预言者Elon Musk讨论人工智能的风险。

两位都是硅谷最重要最有吸引力的人之一，但他们的家都不在那里。几年前，作为伦敦神秘的人工智能实验室DeepMind的创始人，Hassabis曾经拜访过Musk位于洛杉矶郊外的SpaceX火箭工厂。当一个庞大的火箭部件从他们头顶穿过的时候，两人正在餐厅里交谈。Musk解释说他在SpaceX的终极目标是全世界最重要的项目：星际殖民。

Hassabis回应说，他正在攻关全世界最重要的项目：研发超级人工智能。Musk反驳说这正是我们需要殖民火星的原因之一：一旦AI变得流氓起来攻击起人类时我们才会有个避难所。被逗笑的Hassabis说，其实AI也会跟着人类一起去火星的。

不过这对于缓和Musk的焦虑于事无补（即便他说有些情况下AI不会跟过来）。

不爱出风头但内心争强好胜的Hassabis今年40岁，他被认为是传奇魔法师Merlin，能够帮助召唤出我们的AI后代。AI领域发展迅速，但距离Musk担心的那种强大的、能自我演进的软件还很远。Facebook用AI来做定向广告、照片标记以及策划新闻流。微软和苹果用AI来辅佐它们的数字助理Cortana和Siri。Google的搜索引擎从一开始就要靠AI。所有这些小的进展都为的是最终创造出像人一样灵活可自学的AI。

硅谷的一些人好奇地了解到，Hassabis，这位棋艺精湛的国际象棋选手，前视频游戏设计师，曾经想出过一个叫做《邪恶天才》的游戏，主角是一位为了统治世界而创造出一台末日设备的恶毒科学家。Peter Thiel——亿万富翁风投家，特朗普总统的顾问，跟Musk等人一起创建了PayPal，并在去年12月帮助当选总统召集疑心重重的硅谷大佬一起开会。他给我讲了一个故事，说DeepMind的一位投资者在一次会后曾开玩笑说他应该当场就把Hassabis干掉，因为这是拯救人类的最后机会。

Elon Musk早在3年前就开始警告AI杀人狂的可能性。当Hassabis在DeepMind的合作伙伴之一，Shane Legg断然指出“我认为人类灭绝可能会发生，而技术可能会从中扮演一定角色”时，他内心紧绷的那根弦大概也没法松下来。

2014年，作为AI购物狂欢的一部分，在DeepMind被Google吞掉之前，Musk曾经是这家公司的一名投资者。他告诉我说自己投资的目的不是赚钱，而是想对AI的发展保持警惕的眼光：“这可以让我对改进的速率看得更加清晰，而且我认为其改进正在加速，这种速度比大家意识到的那种还要快。这主要是因为在日常生活当中你还看不到机器人到处乱逛。可能你会看到Roomba（扫地机器人）或者别的什么。但Roomba不会接管世界。”

有一次Musk令人吃惊地对他的朋友和技术同事提出了公开谴责，警告称他们会创造出自我毁灭的手段。他告诉彭博社的Ashlee Vance，也就是其自传《Elon Musk》的作者说，他担心他的朋友，Google联合创始人，现母公司Alphabet  CEO Larry Page，担心他虽然有着完美良好的意愿，但是仍然“会意外地制造出邪恶的东西来”——这可能就包括“一支能够摧毁人类的人工智能增强机器人部队。”

今年2月，在迪拜举行的全球治理峰会上，Musk再次插进一段恐怖的管风琴音乐，当他指出“有时候科学家会太过埋头于自己的工作，以至于不能真正意识到自己所为的后果是什么”时，不禁让人想起了经典恐怖故事的情节。他说，到头来，避免人类退化的办法可能得“将生物智能与机器智能进行某种形式的结合。”（实际上他已经在朝这一目标前进了）这种伏尔甘（火和锻冶的神）式的思想融合可能需要一种叫神经织网的东西，这种植入式的织网可以连通大脑与计算机直接进行通信。2月份的时候Musk告诉我说“我们已经是赛博格（电子人、半机械人）了。你的手机和计算机就是你的延伸，只是接口是通过手指运动或者讲话，对接的方式非常慢。”而有了植入头盖骨的神经织网，数据就可以瞬间以无线的方式从大脑下载到你的数字设备或者云端近乎无限的计算资源上。“我认为我们距离一个有意义的半脑机接口大概还有4、5的时间。”

2014年，当Musk在MIT发表讲话，怀疑AI可能是人类“最大的生存威胁” （那时候特朗普还没构成威胁）后，他对AI威胁令人担忧的看法首度开始蔓延。他还补充说自己越来越倾向于认为应该有某种国家或国际监管（这一点为硅谷所深恶痛绝）来“确保我们不会干蠢事。”他继续说：“有了人工智能，我们就是在召唤恶魔。那些故事你们都知道，只要一个家伙手里有了五角星和圣水，他就敢确定自己能控制恶魔吗？不行的。”不过一些AI工程师觉得Musk的夸张说法实在是太荒谬可笑了，以至于他们都开始要呼应一下了。当他们休息过后返回实验室时，他们会说：“走，让我们回去召唤恶魔去。”

Musk没有笑。Elon 针对被解除束缚的AI的“十字军东征”已经开始了。

II、“我是阿尔法”

当我跟他提起他给人的印象是像艾因·兰德（Ayn Rand）式的英雄时，Elon Musk脸上露出了微笑。他用略带南非的口音说：“这个说法我以前听说过。她的一些观点显然相当极端，但不乏好的观点。”

但Ayn Rand得改写一下Elon Musk。她会让他的眼睛变成灰色，让他的脸更瘦削一些。她得重新设计一下他的举止，要表现得没有那么的古怪，她也不会认同他的那种傻笑。她肯定会去掉他所有那些有关“共同”利益的废话。她会在这位45岁的男人的复杂人生里找到很好的材料：他的第一任妻子，奇幻小说家Justine Musk，两人的5个儿子（一对双胞胎，还有3个三胞胎），以及他的年轻许多的第二任妻子，在凯拉奈特莉版的《傲慢与偏见》中扮演无聊的Bennet姐姐的英国女演员Talulah Riley。Riley和Musk现实结婚，然后离婚，后来又再度复婚。现在又再次离婚。去年秋天，Musk在Twitter上说Talulah在HBO的《西部世界》中“扮演致命性感机器人演得很棒”，还加上了一个笑脸。普通女性想要跟Musk这样的工作狂维持关系是很难的。

他问Ashlee Vance：“女人一周想要多长时间呢？10小时？这是不是最低要求了？”

大多数时候Rand还是欣赏Musk这位超级理性、热衷风险的实业家的。他喜欢化装舞会，机翼行走（wing-walking），以及日本的蒸汽朋克。小罗伯特·唐尼把Musk当作钢铁侠的原型。三星美国的CMO Marc Mathieu曾经跟Musk在爱尔兰钓过鱼，他把后者称为是“乔布斯与凡尔纳的结合体。” Justine后来回忆到，当他们在婚宴上一起跳舞时，Musk告诉她：“在这段关系里我是阿尔法。（注： I Am the Alpha，圣经启示录）”

不同名人对AI的态度。霍金：不怕黑洞，AI是另一回事；盖茨：你先会失去工作，然后变得恐惧；Staurt Russel：地球是地球人的地球！Nick Bostrom：准备好迎接“没有小孩的迪斯尼乐园”；Max Tegmark：呃，我们可以讨论这个吗？Demis Hassabis：全速前进！Peter Thiel：不管怎样都会成为赢家；Steve Wozniak：接受当机器人的宠物；Sam Altman：统治银河或者灭绝；Elon Msuk：目标下一站飞向火星；Larry Page：放行Google Brain已说明一切；Yann LeCun：颤抖吧人类！吴恩达：信任机器人；扎克伯格：担心？告诉我的AI管家听；Ray Kurzwell：渴望成为赛博格。

在满是身着连帽衫的瘦家伙的技术界——挑逗机器人就会跟你聊天，app可以研究一张狗图片然后告诉你它的品种，Musk是一种回到亨利·福特和Hank Rearden的复古。在《阿特拉斯耸耸肩》（艾因·兰德的小说）中，Rearden用他的第一批革命性的金属给妻子打造了一个手镯，那手镯看起来就像是用钻石打造出来一样。Musk在自己位于贝莱尔的家墙上也挂了一块自己的火箭部件，那东西看起来就像一件艺术品。

Musk目标远大（shoot for the moon），此话一点不假。他发射成本效率高的火箭进入太空，希望有朝一日能够殖民火星。今年2月，他宣布打算最早在明年将2名太空旅游者送入太空进行绕月飞行。他创造精良的电池有望用廉价的太阳能为世界供电。他把闪闪发光的金属锻造成颇具美感的Tesla电动车，其优雅的线条甚至连挑剔的乔布斯可能都很难找到瑕疵。除了拯救（save）人类他还希望节省（save）时间：他想出了Hyperloop，在真空管道的电磁子弹头列车，有朝一日有望以700英里的时速在洛杉矶或旧金山之间穿梭。去年夏天，当Musk拜访了美国国防部长阿仕顿·卡特时，他恶作剧地发推特说自己在五角大楼讨论要设计一款钢铁侠式的“飞行金属盔甲”。去年12月，深感厌烦沮丧的他又发推说要开家叫Boring Company的公司，在城市地下挖掘隧道来拯救大众于“令人沮丧的交通”之中。今年1月，据彭博商业周刊报道，Musk真的任命了一位资深的SpaceX工程师来负责这一计划，并且已经开始了实验性的第一挖。他有时候堂吉诃德式拯救世界的努力已经给一个戏仿他的推特账号“Bored Elon Musk”带来了灵感，在这里。一个假冒的Musk信口雌黄倒腾出“牛津逗号即服务” （列举多个对象时，在最后的“和（and/or）”前加的逗号）以及“一天一熟的转基因香蕉”之类的古怪想法。

当然，大梦想家摔的跟头也大。一些SpaceX火箭爆炸了，去年6月，一位司机被杀，罪魁祸首是自动驾驶模式下的一辆Tesla，它未能注意到横穿而过的大拖车。（不过美国国家公路交通安全管理局的一项调查发现Tesla的Autopilot系统没有责任）

Musk对挫折无感，但对噩梦情景却太过清醒。他的看法体现在《阿特拉斯耸耸肩》的一句话里面：“人类有能力充当自身的毁灭者——而这正是他在自己大部分历史当中所扮演的角色。”正如他告诉我那样：“我们是第一个有能力自我歼灭的种族。”

当你在硅谷经过一栋又一栋的玻璃大楼是，这个让你心神不定的想法是你摆脱不掉的：云上的君主（意指互联网巨头）在炮制出新算法、app以及发明时喜欢强调要让世界更美好，声称会让我们的生活更方便、更健康、更有趣、关系更紧密、更酷、更得更久，并且对这个星球更仁慈。但细想之下却会让人毛骨悚然，感觉我们就像是他们实验的小白鼠，感觉他们把我们人类当作来旧磁带来看待，旧技术很快就会被废弃这样他们就能去享受自己光彩的新世界。那里的很多人已经接受了这样一个未来：我们会活到150岁，但是会有机器统治者。

也许我们已经有了统治者。正如Musk去年在Recode的年度Code Conference上偷偷透露那样，我们可能已经是更先进文明操纵下的模拟现实世界里的玩偶。据说硅谷的两位亿万富翁正在攻关一个算法来帮助人类突破母体（Matrix）。

在受到解决下一个大问题甜美诱惑的工程师当中，其普遍的态度是帝国崩溃，社会变化，我们正在迈向前方必不可避免的阶段。他们争论的不是“会不会”而是“多久”的问题，我们还需要多久才能复制自己然后改良自己的问题。31岁的YC总裁Sam Altman认为，人类已经濒临此类创造的边缘。

他说：“坚持按照指数曲线走的困难在于：当你往后看的时候，曲线看似一马平川，而当你向前看时，曲线却直上云天。校正你的步伐又非常困难，因为它看起来一直都是一样的。”

任何时候只要Musk、霍金以及盖茨都对AI发出相同警告时（事实已经如此），这一定是个10级火警（美国的最高险情）。但很长一段时间以来，湾区宿命论的迷雾一直都很浓。Musk的十字军东征充其量被看作是西西弗式的徒劳无功，最坏情况下会被视为是勒德分子。这里面的悖论是：很多技术寡头把自己所做的一切都视为是在帮助我们，把自己所有那些仁慈的宣言看作是指引未来之路的明灯，就像Steve Wozniak所说那样，人类只是宠物罢了。

但Musk不愿温柔地走进那个良夜。他打算用自己碳基躯体的每一根纤维来与之搏斗到底。Musk已经跟Altman成立了OpenAI，一家10亿美元规模的非盈利组织，致力于开发更安全的人工智能。他们的新公司只有几位年轻工程师以及一间临时办公室，那是OpenAI 28岁的联合创始人兼CTO Greg Brockman位于旧金山教会区的一间公寓。当我最近再回来跟Brockman和公司30岁的研究总监（也是联合创始人）Ilya Sutskever交流时，OpenAI已经搬到附近一间通风的办公室，并且有了一个机器人，有了通常的零食补充以及50名全职员工（同时还在招聘10到30人）。

身穿灰色T恤和牛仔裤的Altman身形瘦长，脸色发白。而Musk的热情则被他羞怯的举止和涨红的面孔掩盖。视光线不同，他的眼睛或绿或蓝，他的嘴唇是那种李子的红色。他身上有种统帅的光环，同时又保留着17岁时孤身移民到加拿大的笨拙、孤僻的南非男孩的痕迹。

在硅谷，午饭会未必既要有叫做食物的东西。年轻的编码者太专注于算法而没有时间去细嚼慢咽。有时候他们干脆就嚼Soylent（食物替代品）了事。老一点的则痴迷于长生不老，以至于会就着杏仁乳咽下健康药丸当饭吃。

乍一看，OpenAI似乎就是个面子工程，面对着Google、Facebook等公司数十亿美元的投入，一群在没有电梯的公寓工作的聪明小伙，要想向顶级的AI专家发起挑战，无异于最轻量级选手与重量级选手的对抗。但扮演富有的大卫干掉哥利亚（圣经里的巨人）正是Musk的专长，而且他一直都是这种做事风格——再加上一点轰动效应。

让硅谷其他人关注自己的IPO价格和解决旧金山难堪的无家可归者问题去吧。Musk有更宏伟的目标，比如让全球停止变暖，比如在火星上老死（而不是撞死）。

30年前，还是小孩的Musk就有了成熟的生存危机感，他那时候就开始把人类在银河系的命运视为自己的个人义务。Musk告诉我说，Douglas Adams的《银河系搭车客指南》是他的转折点。这本书说的是外星人为了给一条多维空间高速公路腾出地方而摧毁了地球，里面有超级计算机角色偏执狂机器人马文（Marvin the Paranoid Android），负责回答一切有关宇宙的未解之谜。（Musk至少在Tesla Model S的软件里面提到了一次这本书）Vance在他的传记中写到，Musk小时候就给自己确定了使命宣言：“唯一有意义的事情就是去为人类争取更大的集体启蒙。”

OpenAI起步的时候也不太清楚自己该干什么——这并不奇怪，鉴于这个领域的人还在争论AI会采取哪种形式，AI能够做什么以及人类对此能做什么。到目前为止，有关AI的公共政策莫名其妙地还没有确定，软件基本上也没有监管。而FAA已经在监管无人机，SEC监管自动金融交易，美国交通部开始监管无人车了。

Musk认为，先拿到超级人工智能然后把技术分发给全世界而不是让算法集中在技术或政府精英手里会更好——哪怕那些技术精英正好是他的朋友，比如Google创始人Larry Page和Sergey Brin。Musk告诉我说：“我跟Larry谈了很多AI和机器人方面的事情，很多很多。其中一些讨论相当激烈。我想不只是Larry，很多未来学家对于机器人，也就是我们会有某种外围接口都有一种宿命论，觉得这不可避免。他们是这么说的‘我们是数字超级智能的生物引导加载程序。’”（boot loader，计算机开机时加载操作系统的小程序）Musk解释说：“物质不能把自己组织进芯片里，但是可以把自己组织进一个日益复杂并且最终可以制造出该芯片的生物实体里。”

Musk无意成为引导程序。Page和Brin自视为向善的力量，但Musk说问题远远超出了少数硅谷高管的动机。

他说“当皇帝是马可·奥里利乌斯（罗马皇帝，哲学家，贤君）时是好的，但换成卡利古拉（罗马帝国的第三位皇帝，暴君）时就不妙了。”

面对人工智能天启，马斯克发动了十字军东征（中）|全球聚焦

面对人工智能天启，马斯克发动了十字军东征（下）|全球聚焦

来自：36kr