编者按：Elon Musk以其未来主义的博弈著称，但是硅谷争先恐后对人工智能敞开怀抱把他给吓到了。而且他认为你也应该对此感到害怕。《名利场》的一篇长文揭秘了他试图影响飞速发展的AI 及其支持者，以及拯救人类于机器学习大魔头统治之下的努力。更重要的是，这篇启示录式的文章塑造了一个千面的钢铁侠形象：Elon Musk究竟是先知、人类拯救者还是堂吉诃德、勒德分子或者精明商人呢？只有时间才能告诉我们答案。鉴于篇幅太长，全文分3部分刊出，此为第2部分。
III、金牛犊（指代金钱）
经过了所谓的人工智能的冬天（1980年代不成熟的早期AI遭遇了大面积的商业失败）之后，AI落了个骗人神油的名声。现在在这个投资活跃的时代在硅谷又再度成为热门。OpenAI的Greg Brockman认为下一个10年一切都将与AI有关，每个人都往懂得“咒语”的少数的“巫师”身上砸钱。靠写代码解决怎么给陌生人付费这样的平庸问题发达的家伙，现在开始注视一个令人眩晕的世界，在这个世界里，他们是新现实，可能也是新物种的创造者。
微软的Jaron Lanier，这位扎着马尾辫的计算机科学家被认为是虚拟现实之父，对于数字文人为什么如此着迷于AI的“科幻梦想”，他告诉了我自己的看法：“它就像在说，‘噢，你们这些数字技术人啊，你们就像上帝一样；你们在创造生命；你们在改变现实。’这里面有着极大的自恋，除了我们，没人能做这个。教皇不行。总统也不行。没人能做。我们是它的主……我们开发的软件就是我们的永生。”这类上帝式的野心并不新鲜，他补充道：“我有一次在读金牛犊（圣经里面的偶像）的故事时就见过。”他摇摇头：“自己做的东西不要自嗨，知道吧？”
过去几年，Google几乎把每一家有趣的机器人和机器学习公司都收过来了。6.5亿美元买了DeepMind（据说是击败了Facebook），然后建立Google Brain团队攻关AI。它还聘了人工神经网络的先驱英国人Geoffrey Hinton，以及古怪的未来学家Ray Kurzweil，后者预测再过28年我们就将进入被提（Rapture，耶稣再临时所有信徒都将不朽）式的“奇点”——也就是超级人工智能螺旋式上升的自我改进能力将会远远超越人类智能，而人类将于AI融合创造出“上帝式”的未来混合体。
AI已经深入Larry Page的血液和Google的DNA里面，他们都认为AI是公司的天命所在——这是什么样的命运你可以畅想一下。（Ashlee Vance 告诉我，“如果邪恶AI启动的话，一定是现在Google发动的。”）如果Google能在搜索是全世界最重要的问题时让计算机掌握搜索，那么大概它也能让计算机做任何其他事情。去年3月，当DeepMInd的AlphaGo在全世界最复杂的棋类比赛围棋中击败了著名的李世石之后，硅谷倒吸了一口冷气。称自己正在执行一项AI的阿波罗计划的Hassabis称之为“历史时刻”，并承认这件事来得这么快连他自己都感到吃惊。今年2月时Hassabis告诉我说：“我一直都希望AI能帮助我们在复杂科学领域发现全新的想法。这也许是我们第一次窥见到那种创造力。”最近，AlphaGo在网上与中日韩的顶尖棋手连续进行了60盘的对垒，结果是60:0。今年1月，人工智能又给了我们一次震惊，一个AI程序展示出了虚张声势的能力。两位卡内基梅隆大学的研究人员开发的Libratus已经能够击败德州扑克的人类顶级玩家。
Peter Thiel告诉我，他的一位朋友说大家能容忍硅谷的唯一理由是那里的人似乎毫无性趣和乐趣。但有报道称可用app控制情绪甚至还有脉搏的性爱机器人已经在路上。说到女的性爱机器人硅谷态度却很轻佻——在以大男子主义以及性骚扰和性歧视著称的日本对这个东西很痴迷。但当我问到Musk这个东西时，他的回答很实际：“性爱机器人？我想这个可以有。”
无论是出于真心还是精明的公关之举，Hassabis给Google收购DeepMind开出的条件就包括有成立一个联合的AI伦理委员会。3年前的那时候成立一个伦理委员会被视为超前之举，给人的感觉就好像Hassabis已经准备实现真正的AI一样。但现在不算了。去年6月，DeepMind的一位研究人员与人合著了一篇论文，里面讨论了阻止AI造成伤害的杀戮开关——“红色大按钮”的设计问题。
Google高管称Larry Page对AI的看法受到了对现状沮丧的影响，从旅游预订，到作物定价，太多系统没达到最优化了。他认为AI会改善人类生活，并且曾经说过，当人类需求更容易满足时，大家就会“有更多的时间跟家庭待在一起或者去追求自己的兴趣。”尤其是当机器人夺走他们的工作时。
Musk是Page的朋友。他出席了Page的婚礼，有时去到旧金山时还会呆在他的家里。这位全球第99富向我解释说：“一周住1、2晚就要买个房子不值得。”对于Page对AI如何发展的态度也许太幼稚了，Musk有时候也表达过自己的疑虑。如果Page倾向于认为机器的好坏仅取决创造者的哲学的话，Musk是坚决不同意的。让Google的一些人也许感到恼火的是，Musk实际上是在指责他们闷着头就向前冲——把他的错位观点视为电影里的陈腔滥调。Google母公司的执行主席Eric Schmidt是这么说的：“机器人被发明出来。国家武装了它们。邪恶的独裁者把机器人对准了人类，然后所有人类都被干掉。对我来说这听起来就像一部电影。”
硅谷的一些人认为，相对于拯救世界，其实Musk对给自己的招牌贴金更感兴趣，说他利用了一个根深蒂固的矛盾：人与机器之间的冲突，以及我们对自己的创造物会背叛我们的恐惧。他们抱怨他那史诗般的正邪之争的故事线只是为了用打折的价格引诱人才，为他的汽车和火箭孵化自己的AI软件。湾区一直非常尊重赚钱当然是真的。正如Sam Spade在《马耳他之鹰》写道：“旧金山的大多数东西都可以买下来或者拿到。”
Musk毫无疑问是一位杰出的推销员。还有谁比人类福祉的守护者更适合向你推销新的自动驾驶的Tesla呢？前百度首席科学家吴恩达把Musk那种摩尼教徒式的罕见激情说成是“营销天才”。吴恩达带着难以置信的口吻回忆道：“在金融危机的顶峰时，他居然说服了美国政府帮他造一辆电动跑车。”这位斯坦福教授跟一位机器人专家结婚时，发出了一封机器人主题的订婚通告，并且在他的椅子后背一直挂着一件印有“相信机器人”的黑色夹克。他认为担心AI变流氓的人是被“幻觉”搞得心烦意乱了，并且把现在就发出警告视同为在我们还没有殖民火星之前就担心火星的人口过剩。他特别谈到了Musk：“在相当短的时间内他就掺和到了AI的讨论当中，这一点很吸引人。我觉得他应该很精明地看到了AI即将能创造出庞大的价值。”
尽管他一度把Musk称为是“科幻版的P.T. 巴纳姆（生意头脑精明的美国马戏团经纪人兼演出者，他的最后遗言是“今天Madison广场花园的收入怎样？”）”，但Ashlee Vance认为Musk对AI的担忧是真诚的，即便他对此实际能做些什么尚不清楚。Vance指出：“他的妻子Talulah告诉我说他们曾在家里就AI进行过夜谈。Elon这个人极具逻辑性。他处理一切事情都像是在下棋。当他在脑子里推演这一情景（AI发展）时，人类的结局并不好。”
伯克利机器智能研究学院的联合创始人Eliezer Yudkowsky对此表示同意：“他是怪人Elon Musk。如果他想表现自己的酷的话，没必要去蹚人工智能论战这场浑水。只用讨论火星移民就行了。”
一些人对此嗤之以鼻，认为Musk不是（倡导开放和团队精神的）白板文化的真正成员，而他的吓人场景忽视了一个事实，即我们还生活在一个连打印机都很难让它正常工作的世界里。其他人把OpenAI在某种程度上看成是FOMO（害怕错过）：Musk看到自己的朋友Page在一个热门领域发动了一波软件新浪潮，并且招揽一支有竞争力的程序员队伍。在Vance看来：“Larry所有的玩具Elon都想要。他们就像那些超级大国。他们是朋友，但是关系又很紧张。”这类对抗可以用美剧《硅谷》里面技术巨兽Hooli的那位虚荣心极强的老板来概括：“我不想生活在一个在让世界变得更好方面别人比我们做得更好的世界里。”
Musk说自己与Page对AI的潜在危险观点不一致“的确影响了我们的友谊一阵子，但那已经过去了。这段时间我们的关系很好。”
Musk跟32岁的扎克伯格从来都没有过那么紧密的私人关系，后者已经不大可能地变成了一位生活方式大师，每年都给自己设定了一项新挑战。其中包括了每天佩戴一条领带，每两周读一本书，学习普通话，只吃亲自杀死的动物身上的肉。2016年，挑战轮到AI了。
扎克伯格已经把他的AI专家搬到了自己办公桌附近。在Musk和Altman宣布成立组织让世界远离恶意AI的3周后，扎克伯格在Facebook上面发文说他当年的项目是开发一个机器人来帮自己打理家里的一切，从认出他的朋友，到让他们进门，乃至于照看孩子。他写道：“你可以把它看成是钢铁侠里面的Jarvis。”
一位Facebook人警告扎克伯格不要“一不小心就建立了天网，”《未来终结者》里面那个背叛人类的军事超级计算机。扎克伯格回应道：“我想我们可以造出为我们工作帮我们忙的AI。”接下来他显然对Musk含沙射影：“一些人对AI的危险性散布恐惧，但这对我来说太过牵强附会，远不能跟大规模流行病、暴力等造成的灾难相比。”或者，如去年4月他在Facebook开发者大会上描述自己的哲学那样，作为对Musk等人的警告的明确拒绝，他认为这些说法是危言耸听：“我选择希望而不是恐惧。”
在奥巴马担任客座编辑的《连线》2016年11月刊里，扎克伯格撰文说科幻小说对末日场景的担心几乎没有什么依据：“如果我们放缓进步脚步而听命于没有根据的担忧，就会妨碍人类取得真正收获。”。他把对AI的神经过敏与当年对飞机的恐惧相提并论，指出：“在首先找出怎么让它们飞起来之前，我们并没有匆忙给飞机制定规则。”
正好在圣诞节前扎克伯格推出了自己的AI管家Jarvis。这位管家有着摩根·弗里曼充满抚慰感的嗓音，可以帮助播放音乐、开灯关灯，甚至还能烤吐司。在Jarvis还处在最早期阶段时我曾经问过真实的钢铁侠Musk对它的看法。Musk回答说：“我不会把家务功能自动化叫做AI。开灯、设定温度这些真不是AI。”
扎克伯格一样可以不屑一顾。在德国被问到Musk的末日预感是“歇斯底里”还是“合理”时，扎克伯格的回答是“歇斯底里”。去年9月，当Musk的SpaceX火箭在发射台爆炸并毁了Facebook租赁的一颗卫星时，扎克伯格冷冷的发文说自己“深感失望。”
IV、历史的断裂
Musk等对AI发出告警信号的人有时候被视为小题大做的人。2016年1月，Musk获得了华盛顿一家技术政策智库授予的年度勒德奖。尽管如此，他还是有一些相当好的同僚。霍金告诉BBC说：“我认为完全人工智能的出现将预示着人类的灭亡。”盖茨告诉Charlie Rose说AI有可能比核灾难更加危险。43岁的牛津大学哲学教授Nick Bostrom在其2014年的《超级智能》一书中警告说，“一旦出现不友好的超级智能，就会阻止我们替换它或者改变它的选项。我们的命运就会被封印。”去年基辛格博士也加入了看衰的一方，他在曼哈顿的一个私人俱乐部Brook主持了有顶级AI专家参与的秘密会议，在会上他讨论了自己对智能机器人可能造成历史断裂并破坏文明运作方式的担忧。
2015年1月，Musk、Bostrom等代表着两个阵营的AI界名人聚集到了波多黎各，出席由49岁的MIT物理学教授，位于波士顿的生命未来研究所负责人Max Tegmark主持的一次会议。
Tegmark问我：“你有房吗？你买了火灾保险吗？波多黎各达成的共识是我们需要火灾保险。当我们有了火并搞砸火时，我们发明了灭火器。当我们有了汽车并搞砸汽车时，我们发明了安全带、安全气囊以及红绿灯。但是核武器和AI这两个东西我们可不想从错误中学习。我们要未雨绸缪。”（Musk提醒Tegmark，像安全带这样合情合理的预防措施也曾经引起汽车业的强烈反对。）
启动为避免AI陷阱的研究筹资的Musk说，他将为生命未来研究所提供“1000万个理由”去从事该课题的研究，他赞助了1000万美元。Tegmark麻黄素那个给Bostrom的牛津小组，人类未来研究所捐了150万美元。当时在解释为什么“主动而不是被动”至关重要时，Musk说“设想人类文明无法恢复的场景”当然是有可能的。
波多黎各会议结束6个月后，Musk、霍金、Demis Hassabis、苹果联合创始人Steve Wozniak以及伯克利计算机科学教授，与人合著了人工智能标准教科书的Stuart Russell，以及1000多位其他名人联合署名写信要求禁止进攻性自动武器。Russell告诉我说：“在50年内，我们现在处在的这个18个月对于AI社区的未来度会被看作是至关重要的时期。AI社区终于觉醒了，开始严肃思考如何让未来更美好了。”去年9月，美国的几大科技巨头建立了AI伙伴关系（Partnership on Artificial Intelligence），全面探索包括伦理在内的AI相关问题。（Musk的OpenAI迅速加入了这一阵营）与此同时，欧盟一直在审视机器人和AI出现所引发的法律问题——比如机器人是否有“人格”或者更应被视为罗马法里面的奴隶。
去年1月， 加州Asilomar中心（选址在这里是因为1975年科学家聚集到这里同意限制基因实验），在Tegmark主持的第二次AI安全会议上，该话题不再变得那么的具有争议性。没有出席波多黎各会议的Larry Page这次也去了，Musk指出他们的“对话不再激烈了。”
不过尽管这也许是“AI安全的一次介绍性聚会”（一位与会者的说法），但在Musk看来这是过去1年左右发生的“重大转变”的一部分，但未来还有很长一段路要走。他观察到：“硅谷的技术精英现在无疑已经更加认真地看待AI了——他们已经把它看作风险看待了，但我还不敢确定他们是否认识到了这种风险的显著性。”
Steve Wozniak公开过自己的想法，他想知道的是自己是否注定会成为机器人统治者的家庭宠物。在核桃溪市Original Hick’ry Pit餐厅，他在跟妻子Janet吃午饭时告诉我说：“我们开始喂我们的狗吃肉片了，一旦你开始想到自己也会成为其中一员时，这就是你希望的对待方式。”
他已经形成了对机器人和任何AI主人的绥靖政策。他说：“当它们有朝一日可能会控制我们时，我们为什么要树敌呢？这应该是一种共同的伙伴关系。我们能做的就是给它们培养一种强烈的文化，把人类当作朋友来看待。”
当我去到Peter Thiel位于旧金山被两个巨大棋盘占据的高雅办公室时，Thiel，这位OpenAI的原始捐助人以及坚定的逆向投资者说，他担心Musk的抵抗反而会加速AI的研究，因为他的末日警告正在提高对该领域的兴趣。
Thiel说：“完全的AI相当于外星人登陆。这里面有一些非常棘手的问题……如果你真正去推动让AI变得安全的努力时，我认为大家未必会有头绪。我们甚至还不知道AI是什么。知道如何去控制它是非常困难的。”
他继续说：“给人的感觉是AI问题浓缩了大家对计算机时代所有的期盼和恐惧。我认为当我们的直觉被推到这些极限时才会出问题，因为我们从来都没有跟比自己更聪明的实体打交道过。”
来自：36kr
/1 
发表于 2017-3-31 13:22:01
QQ好友和群
QQ空间
腾讯微博
腾讯朋友
收藏
转播
分享
淘帖
赞
踩
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
照妖镜