郝景芳：人工智能实现深度学习算法，未来能否感知人类情感？

导语：人工智能对人类文明到底是不是威胁？这种看似遥远的问题似乎总能在互联网上引人热议，并且正反两方都有着代表性的人物。关于这个问题，雨果奖得主，科幻作家郝景芳，有着不同角度的看法。
　　视频网址：

　　关于人工智能的不同看法
　　人工智能最近非常得火，同时也引发一些问题：人工智能到底能变得多聪明？它们会不会比人更聪明？会不会统治人类？这样的话题是大家这段时间茶余酒后热衷讨论的焦点。一些聪明人，像马斯克、霍金，都忧虑说人工智能是人类文明的最大威胁；但是另外一些聪明人，像扎克伯格则认为人工智能对人主要都是好处，我们应该对未来保持乐观。那么这个问题到底该如何解答呢？

　　人工智能如何思考
　　人工智能会不会变得像人一样，我们需要了解的是人工智能如何思考，人如何思考，人工智能和人的思考有什么差异。人工智能有很多种不同的算法，目前最为流行也是前景最好的是深度学习，它在很大程度上是模仿了人类的大脑学习。

　　但是它模仿的只是大脑的皮层部分，把神经网络学习扩展为多层。它会把识别一样东西拆分成非常非常细小的环节，比如一个字拆成横竖撇捺。第一层识别有没有这样的部件，第二层会识别有没有更大的结构，到了第三层再去把它综合起来识别成一个字，于是这样的多层的神经网络系统就可以把一个问题分解得很小，再进行多层反馈最后得到一个答案。用这样的迭代方式，我们能让计算机程序很快速的从大量的数据里面提取有用的信息。
　　深度学习是否足以模仿人类
　　深度学习的办法很像我们的大脑皮层的运作方式，可这样的一种方式是不是就足以模仿我们人类，让它能够从下围棋转到治疗癌症，再转到音乐，或者日常生活中的决策。实际上人类大脑不仅仅有皮层，它更像一个城堡。皮层是这个城堡的屋顶，这个城堡本身还有很多主体建筑，对于我们人类的思维非常重要。我们的大脑总体来讲是三层结构，最底下的爬行大脑，负责我们的基础生理、欲望；再往上面一层是边缘大脑，负责我们的情绪情感部分，它大致包括感知、情绪、情感、动机、社交以及最高层次的思考。

　　讲述智能机器人的电影《机械姬》
　　但是人工智能不一样，它所要处理的数据是电子化数据，是我们人类给它制造的二次数据，是我们的消费记录、拍的照片、网络上的对话，那么人工智能很可能是基于电子数据的一种电子生物。它对于我们这个世界的感知、欲望、想要的东西，都会和我们非常不一样。
　　我们该担心吗？
　　人工智能目前的动机基本上还是程序员输入，一个人工智能再强大也并不能选择它自己的动机。AlphaGo战胜了人类所有的棋手，但我们并不会担心它，因为当程序员跟他说，下围棋，他就去下围棋。

　　什么时候我们担心呢？就是当程序员说下围棋，他说不，我要去读柏拉图。那个时候我们才会感到担心，哪怕它那个时候再笨我们也会感到担心。而现在只要他的目标还是人类为他选择的，那么我们就永远不会担心它对我们有危害。
　　人工智能的这种自我意识会不会诞生呢？这可能和人或者人工智能的社交紧密相关。人的自我意识，很大程度上是由我们的社会化引起的。其实我们过去说人类文明的诞生，会说到一些关键性节点，包括用手、包括直立行走、语言等等，但其实让这个文明最大程度开始加速的，是我们社会化的过程。

　　我们对于社会地位的敏感，让我们有了自我提升的追求，有了自我感知，自我意识。另外，我们有对他人的感知，让我们去不断地去猜想对方是敌是友，对我是善意还是恶意，让我们不断去感知他人的心理，感知他人的思维。于是在这样强有力的社交过程中，我们有了自我感知、自我意识、自我提升的欲望。也有了对他人的感知，有了合作的欲望，有了和他人竞争的欲望。所有的这些社会性感知，是让我们人类整体智慧进行突飞猛进发展的起源和开端。
　　人工智能的缺陷
　　那么对于人工智能来说，它能不能形成这种非常广泛的社会交往的感知？在这里有一个很大的困难：目前的人工智能是基于硅芯片，能量消耗比我们碳基生物高太多太多倍。做同样的计算，它们可能需要消耗的能量是我们的数亿倍。这就意味着一个硅基的大脑，不可能在这么小的范围里，在跟我们做同样计算的时候消耗同样少的能量。

　　AlphaGo 背后的服务器
　　那么一个机器人，它想要在自己有限的躯体里进行计算，就必然要与一个大的互联网，与分布式计算，与一个程序相结合。AlphaGo有数千个CPU、数百个GPU，它是一个很大很大的系统来完成的同一个计算。对于人工智能来说，他的独立性、自主性和行动力三者不可能都具备。
　　未来很可能发展的一个方向，是尽管人工智能可能会有一些终端，有一些可以和外界接触的操作的部件，但是它的大脑会是一个分布式的、联网式的大脑，这就意味着人工智能它很难像人类一样，诞生出无数个独立的个体，每一个独立的个体进行自己一个单机操作。于是我们会认为，哪怕人工智能在未来进行了很大程度的跨越的发展，它很可能不会形成像我们人类那种自我意识，和人与人之间的相互关系。

　　这样的人工智能它会不会消灭我们？我们其实要问的是，它为什么要这样做呢？它出于什么样的动机要消灭我们呢？我们不应该拿我们生物性，我们种群之间的相互攻击性，自动地去套到这样一个互联网式的智能上。对于它来讲，它所需求的是数据，我们刚好是它的提供者。
　　人工智能对人类最大的威胁
　　不是它本身
　　当然，这里面有很多风险，人工智能程序永远可以被人滥用，任何人都可以利用人工智能程序去杀戮。但是不管怎么说，未来掌握在我们手里，我们的人仍然有极为强大、自己独特的系统，只要我们不忘记我们自己的人性，不忘记那些让我们内心中感动的事物，让我们人与人相互联结的事物，让我们能够为之动情为之落泪的事物，那么我们人永远是不可取代的。

　　未来会怎么样，未来人与人工智能是否携手同行，其实取决于我们如何给人工智能赋予它的目标，它的意义，它的操作规程。在这方面，我既不是乐观主义者也不是悲观主义者。我相信人与人之间的仇恨，可以因为人工智能而增加；但人与人之间的相互联结，也可以利用人工智能而加强，那么未来会怎么样？分杈点可能就在现在。

Q：您认为是科学家的技术进步给了科幻作者灵感，还是科幻作者的想象力给了科学家的研究的方向呢？
　　A：这个可能有双向的促进吧，我觉得科学有很多时候的研究，是想要证明科幻作家有多不靠谱，这个可能也是一个科学的动力吧。
　　Q：在您的科幻作品中，您认为哪些场景是会实现的？
　　A：这个其实真的不太好说，因为未来都取决于我们现在，我们的很多做法有可能改变。比如《北京折叠》中会写到人工智能取代人类就业，有很多人失业，这样的一种前景有可能是会上演的。如果人工智能像现在这样发展，而我们的教育培训不发生任何改变的话，那么它确实是有这种风险。如果我们的职业训练、就业体系、整个教育系统，快速地发生反应的话，那我们可以借助这样新的时代发展，进入到一个更美好的世界。
　　Q：像您刚刚说的这部分对于职业的替代，已经发生了。因为在人工智能的应用中现在就有写稿机器人，那未来的作者、文字编辑他们是不是真的会被人工智能被折叠？
　　A：其实就是对于写作的需求，人工智能能够替代的部分就是标准化的程序化的部分，那么我们通常在看这样的文字的时候，也不是很在意里面的文章写地好不好，我们要提取的就是一些信息，那么其实这样的一些稿件让人工智能去写作的话，反倒可以把我们人类的写手解放出来，去写一些真正自由写作的东西。我对自由写作的定义就是不从套路出发去写作，而是从内心出发去写作。人工智能现在可能是读三十万篇文章就会写一个，这个是从现有的文字里面总结套路，但是人类的作者永远向自己内心去挖掘，去体会自己现在为什么会这样悲伤、痛苦、兴奋，然后把这样的内心感觉转化为文字，所以人类这种从自己内心的感觉情绪出发的自由写作，我觉得是人工智能所不能取代的。