168大数据

 找回密码
 立即注册

QQ登录

只需一步,快速开始

扫一扫,访问微社区

1 2 3 4 5
开启左侧

[头条] 2018年,人工智能所需跨越的难关

[复制链接]
发表于 2018-1-4 10:15:54 | 显示全部楼层 |阅读模式
2018年,人工智能所需跨越的难关
原文: As Artificial Intelligence Advances, Here Are FiveTough Projects for 2018
来源: https://www.wired.com/story/an-old-technique-could-put-artificial-intelligence-in-your-hearing-aid/


  • 要让机器人完成特定的任务,就需要针对专门的任务进行编程。它们可以通过反复试错,学会抓握物体。但这个过程相对缓慢。一条比较可行的捷径是,在虚拟、模拟世界中训练机器人,再把它辛苦学到的知识下载到实体机器人中。不过,这种办法受制于“现实差距”——也就是说,模拟系统中学到的技能,并不总是适用于现实世界中的操作。
  • AI软件是有局限性的。国际象棋、将棋、围棋都很复杂,但是规则相对简单,每走一步对弈双方都能看到。快速穷举未来“局面”这事,计算机最在行了。但在现实生活中,大多数局面和问题都不会如此结构分明。
  • 在近期的NIPS(神经信息处理系统进展大会)机器学习会议上,讨论的主线之一就是如何让AI技术保持在安全且合乎道德的范围之内。研究人员发现,由于我们的世界跟完美相距甚远,机器学习系统在接受已有数据的训练时,会沾上不道德或不可取的行为,比如以刻板印象对待男女两性。有人正在研发特定手段,用于审核AI系统的内部运作,确保它们在金融与医疗领域运作时,能够作出公正的决策。


原文翻译:

2017年,围绕杀手级机器人的议论甚嚣尘上,人工智能也大有长进。比如,一台名为Libratus的机器人力胜多名扑克高手。在现实世界中,机器学习被用于改进农业,拓宽医疗服务覆盖面。
但只要最近用过Siri或Alexa,你就会知道,虽然声势浩大,虽然让伊隆·马斯克(Elon Musk)这样的亿万富豪忧心忡忡,但人工智能做不到、理解不了的事还有很多。
理解话语
机器的文本和语言处理能力是空前的。Facebook可以为视力障碍人士朗读照片描述。谷歌可以针对电子邮件,推荐现成的回复短句。然而,软件依然理解不了我们的话语和思路。“我们可以学习概念,并通过不同的方式把这些概念结合起来,应用到新的情境之中,”波特兰州立大学教授梅拉妮·米切尔(Melanie Mitchell)说。“但这些AI和机器学习系统就不会。”
按照米切尔的描述,当前的软件还受阻于数学家吉安-卡洛·罗塔所说的“意义的屏障”。一些领先的AI研究团队正试着翻越这道屏障。
其中一个研究方向致力于让机器像人类一样,对常识和现实世界有一个基本的理解。Facebook研究人员正试图教软件理解现实,比如通过看视频。还有的则侧重模仿我们能用对世界的理解来做些什么。谷歌就在打造学习比喻的软件。米切尔就试验过一些系统,利用类比的方法和一堆有关世界的概念来解读照片中的情况。
“现实差距”阻碍机器革命
机器人硬件日益完善。只需500美元就能买到手掌大小、配备高清摄像头的无人机。能搬运盒子、靠两腿行走的机器人也大有改进。那我们周围为什么还没有充斥着往来穿梭的机械助手?因为当前的机器人四肢发达、头脑简单。
要让机器人完成特定的任务,就需要针对专门的任务进行编程。它们可以通过反复试错,学会抓握物体。但这个过程相对缓慢。一条比较可行的捷径是,在虚拟、模拟世界中训练机器人,再把它辛苦学到的知识下载到实体机器人中。不过,这种办法受制于“现实差距”——也就是说,模拟系统中学到的技能,并不总是适用于现实世界中的操作。
这个现实差距正在不断缩小。10月份,谷歌公布一批实验获得了喜人的结果。在这些实验中,模拟与现实机械手臂学会了捡拾多种物体,包括胶带分配器、玩具和梳子。
对致力于自动驾驶汽车的人而言,进一步的进展非常重要。在自动驾驶技术的竞赛中,企业纷纷在模拟街道上部署虚拟汽车,从而减少在实地交通和道路环境中测试所需的时间和资金。自动驾驶初创企业Aurora公司CEO克里斯·厄姆森(Chris Urmson)说,其团队的优先事项之一就是让虚拟测试更加适用于现实车辆。“未来一年左右,如果能利用虚拟测试加速机器学习,那就太好了,”厄姆森说。他之前领导过谷歌母公司Alphabet的自动驾驶汽车项目。
防范AI攻击
运行电网、监控摄像头和手机的软件中充斥着安全漏洞。自动驾驶汽车和家用机器人也不会例外。情况还有可能更糟:有证据表明,机器学习软件的复杂性提供了新的攻击渠道。
今年有研究显示,你可以在机器学习系统中隐藏一个秘密开关,使它一触及特定信号,便切换成邪恶模式。纽约大学的团队设计了一个正常运行的路标识别系统——除非它看到黄色的便签纸。布鲁克林一块停车路标上贴了一张便签纸,结果,系统将其报告成了限速标志。这类手法也许会给自动驾驶汽车构成麻烦。
这种威胁不可小觑,以至于最近,在世界最负盛名的机器学习大会上,研究人员们围绕机器欺诈的威胁,召开了持续一天的专题讨论会,讨论那些阴险的招数,比如生成手写数字,人类看到的是正常的数字,软件看到的却是另一番景象。举个例子,你看到的是2,机器视觉系统却将其识别成了3。研究人员还探讨了针对这类攻击的防范措施,并且担心,AI会被用来愚弄人类。
蒂姆·黄(TimHwang)是该专题讨论会的组织者,他预言,随着机器学习日益强大,部署日趋简单,它将不可避免地被用来操控人类。“现在从事机器学习不再需要一屋子的博士了,”他说。他援引了2016年美国大选中,俄罗斯进行虚假宣传的例子,并认为,那可能就是AI强化的信息战的一个先导案例。“这些政治活动中,凭什么就不会出现机器学习领域的手法?”他说。他预言,一种手段会尤其有效,那就是用机器学习生成假视频和假音频。
拿下棋盘游戏
2017年,打遍天下无敌手的AlphaGo进步神速。今年5月,其增强版在中国击败了多名世界级围棋冠军。其创造者、Alphabet旗下研究部门DeepMind后来又构建了一个版本,名为AlphaGo Zero,在不学习人类棋步的情况下,就学会了围棋。12月,DeepMind再次升级,推出AlphaZero,可以学会国际象棋和日本将棋(不过不能同时学)。
这些滚滚而来的重大成果固然喜人,但也提醒了我们,AI软件是有局限性的。国际象棋、将棋、围棋都很复杂,但是规则相对简单,每走一步对弈双方都能看到。快速穷举未来“局面”这事,计算机最在行了。但在现实生活中,大多数局面和问题都不会如此结构分明。
正因如此,2017年,DeepMind和Facebook都开始致力于多玩家游戏《星际争霸》(StarCraft)。目前,最好的机器人——出自业余人士之手——也不是哪怕一般玩家的对手。今年早些时候,DeepMind研究人员奥里奥尔·温亚尔斯(Oriol Vinyals)在接受《连线》杂志采访时说,他的软件现在还不具备规划与记忆能力,无法在精心组建并指挥一支军队的同时,预测对手的下一步举措,并加以应对。并非巧合的是,这些技能也可以让软件更好地协助现实世界的任务,比如办公室工作或者真实的军事行动。2018年,《星际争霸》或类似游戏的重大进展也许预示着AI将会有强大的新用途。
AI明辨是非
即便上述领域没有新的进展,现有AI技术普及之后,经济与社会的方方面面也会发生重大改变。在企业与政府忙于普及AI的同时,有人对AI和机器学习的潜在危害忧心忡忡,其中包括有意的和无意的危害。
在近期的NIPS(神经信息处理系统进展大会)机器学习会议上,讨论的主线之一就是如何让AI技术保持在安全且合乎道德的范围之内。研究人员发现,由于我们的世界跟完美相距甚远,机器学习系统在接受已有数据的训练时,会沾上不道德或不可取的行为,比如以刻板印象对待男女两性。有人正在研发特定手段,用于审核AI系统的内部运作,确保它们在金融与医疗领域运作时,能够作出公正的决策。
2018年,科技公司应会献计献策,设法让AI站在人类这边。谷歌、Facebook、微软等已经在探讨这个问题,并且是非营利机构AI合作组织(Partnership on AI)的成员。该机构将研究并试图规范AI对社会的潜在影响。更独立的部门也开始施压。一个名为人工智能伦理与治理基金(Ethics and Governance ofArtificial Intelligence Fund)的慈善项目正在支持MIT、哈佛等机构的AI和公共利益研究。纽约大学新成立的AI Now也肩负起了类似的使命。在最近的一项报告中,该研究机构向政府发出呼吁,要求他们承诺,在刑事司法或福利等领域,不再使用不受公开审查的“黑箱”算法。


车品觉简介


畅销书《决战大数据》作者
红杉资本中国基金专家合伙人
国信优易数据研究院院长
滨海泰达物流(HK:08348)非執行董事

香港特区创新科技及再工业化委员会委员
贵阳市大数据委顧问
上海市司法局大数据实验室专家
CCF大数据委副主任
乌镇智厍理事

浙江大学管理学院兼职教授
清华大学(大数据项目)教育指导委员
Advisory Committee of Big Data institute - HKUST

全国信标委大数据标准工作组副组长(2015-2017)
原阿里巴巴集团副总裁
原阿里健康(HK:00241)独立董事
原阿里数据委员会会长

2014年领导阿里数据团队获得Top CIO评选为中国最佳信息化团队
2017年被国家信息中心选为中国十大最具影响力大数据企业家

拥有十几年丰富的数据实战经验,并在实践中形成了独特的数据化思考及管理方式,对大数据未来趋势有独到见解;亲自领导阿里数据团队在大数据实践领域取得了一系列重要成果,包括为阿里建立集团各事业群的业务及决策分析框架,开发智能化的数据产品,成立了驱动集团数据化的运营团队,成功发起了公共与专有数据资产管理体系,还发布了数据安全规范等。


楼主热帖
168大数据(www.bi168.cn)是国内首家系统性关注大数据与数据科学的社区媒体与产业服务平台!
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关于我们|小黑屋|Archiver|168大数据 ( 京ICP备14035423号|申请友情链接

GMT+8, 2018-1-20 10:48 , Processed in 0.078385 second(s), 18 queries , Xcache On.

Powered by BI168社区

© 2012-2014 海鸥科技

快速回复 返回顶部 返回列表