被寄予厚望的深度学习系统

《被寄予厚望的深度学习系统》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、被寄予厚望的深度学习系统张文韬/编译●利用大量数据识别照片和语言，深度学习系统正在朝向真正的人工智能迈出了一大步。深度学习具有的一种属性是，如果你给他更多的数据，它会做得越来越好。或许，再过几年将会看到这样一个景象，即越来越多的人加入到深度学习的潮流中。三年前，位于美国加州山景城的谷歌X实验室，研究人员从YouTube网站视频中提取了1000万张静态图片，输入谷歌大脑——由1000台电脑组成的程序网络——让其像幼儿一样对周围的世界进行学习。图片循环播放，三天后，谷歌大脑能完全独立地分辨某些类别的重复图片：人脸

2、、人体……还有猫。这是深度学习复兴的里程碑：三十多年来在处理大量数据引发的技术进步，使计算机可以处理杂乱的问题，从识别人脸到理解语言，这些问题对人类来说几乎是凭直觉来解决的。另一种超越深度学习本身是一个古老的计算思想的复兴：神经网络。这种系统的灵感大概来自大脑里无数互相连接的神经元，在经验的基础上，通过改变模拟神经连接的强度来模拟人类的学习过程。谷歌大脑具有100万个模拟神经元和10亿个模拟连接，规模比以往任何深度神经网络大10倍。这一项目的缔造者是吴恩达（AndrewNg），任职加利福尼亚州斯坦福大学人工智

3、能实验室主任，目前正在致力于打造规模更大的深度学习系统。谷歌大脑让人工智能（AI）进入了一个激动人心的时代——尝试让计算机像人类一样思考（虽然结果经常令人沮丧）。几年来，谷歌、苹果和IBM等公司网罗了大批新兴公司和深度学习研究专家：对于普通消费者，软件能更好地帮助他们整理照片、理解语音指令和翻译外语文本；对于科学家和工业界，深度学习计算机能筛选药物、绘制真正的大脑神经网络图谱或预测蛋白质的功能。“AI总是在不断地失败中逐渐取得进展的。这次应该是另一超越，”深度学习领域的先驱之一、纽约大学数据科学中心主任伊恩·

4、勒坤（YannLeCun）表示。“过几年，我们会看到疯狂的景象，深度学习会成为一种潮流，”加州大学伯克利分校计算机图像识别学者杰腾德拉·马利克（JitendraMalik）认同以上观点。但从长远看，深度学习可能并不占上风，一些研究人员正在寻求其他可能的技术。“我是个不可知论者，”马利克说，“随着时间的推移，届时人们将会确定在不同的领域采用效果最好的技术。”受大脑启发早在上世纪50年代，计算机还是个新生事物，从事AI研究的首批科学家曾预测，完全成熟的AI即将到来。但是，当他们意识到现实与期望存在的巨大差距后，这

5、种乐观情绪就逐渐消退了，尤其是面对感知问题时，什么使一个脸孔看起来像人脸，而不是面具或其他？很多研究人员曾为此花费了几十年时间，从制定规则、到设定计算机识别物体时所需分析的所有特征等。“提出特征是困难的，不仅耗时，而且需要专业知识，”吴恩达说，“我们不得不寻找别的更好办法。”上世纪80年代，一种在神经网络中进行深度学习的方法出现了——可以从头学习，建立自己的规则，以实现大脑般对称的功能。这种名为模拟神经元的方法由几个层次组成：第一层次将关注到明暗像素点；下一层次可以识别一些由像素点组成的边缘；再下层次识别出水

6、平线和垂直线；最终层次将识别出眼睛，并意识到人脸通常有的两只眼睛（见“脸部识别”）。据马利克回忆，第一个深度学习程序，其表现还不如最简单的系统。“操纵神经网络是非常精巧的艺术，中间有些过程是不可思议的，”他说。神经网络需要从丰富的例子中学习，就如同婴儿从周围世界里获取信息一样。在上世纪80年代到90年代，可利用的数字信息不多，计算机不得不耗费大量时间对信息进行处理，应用程序也很少。本世纪初，勒坤及他以前的主管、加拿大多伦多大学的计算机学家杰弗里·希尔顿（GeoffreyHinton）确信，随着计算能力的提高和

7、数据的爆炸式发展，意味着是时候重新推动AI研究了。“我们希望向全世界展示这些深层神经网络可以真正帮助我们，”希尔顿的学生乔治·达尔（GeorgeDahl）如是说。首先，希尔顿、达尔等人解决了语音识别这一难点，这在商业上很重要。2009年研究人员报告称，他们的深度学习神经网络成功地把语音转换成文字，这在由标准规则导向方法下已10年停滞不前了。达尔说，这一成果吸引了智能手机主要厂商的注意，包括微软公司。“在几年内，他们都转向了深度学习研究领域。”例如，iPhone的语音数字助理Siri开发，就依赖于深度学习。巨大

8、的飞跃谷歌在其安卓智能手机操作系统上采用了基于深度学习的语音识别后，单词错误率减少了25%。“在以前，这需要十年的时间才能实现。”希尔顿认为，至少这反映出在这方面取得的进展是多么困难。与此同时，吴恩达一直在说服谷歌公司允许他使用它们的数据和计算机（这些计算机后来成了谷歌大脑的一部分）进行无监督学习项目的演示；而无监督学习在当时是一种最难的学习任务。吴恩达很快就陷入了困境，因为在谷歌之外很少有研究者能