实时资讯:
· 为什么要做管理复盘,如何做管理复盘?从现…     · 阿迪达斯中国:打造运动文化,激发人才潜能…     · 康蒂思:文化“软实力”是组织发展的“硬武…     · 李东来:不急功近利、不机会主义,日本企业…     · 企业需要打造什么样的组织能力?     · 2022,施炜写给中国企业家的22条建议     · 「教育强国」王炳林:学习型党组织的基本特…     · 阿斯利康:构建终身学习型组织     · 百年接续推进党的建设伟大工程     · 黄陶勒盖煤炭公司党建工作与生产经营深度融…     · 京能集团昊华精煤公司班组长脱产培训班纪实…     · 采用丰富多彩的学习形式——通过学习积累知…     · 我院院长王蠡与山能新矿集团公司总法律顾问…     · 树立学习新观念——自我经营     · 树立学习新观念——自我实现     · 树立学习新观念——融入班组学习     · 聊城市税务局创建学习型组织强化训练营培训…     · 从心改变,自我超越——聊城市税务系统(区…     · 30项课题5天攻坚——新华医疗职工创新训练…     · 愿景引领,创新超越——聊城市税务局创建学…     · 人合力合见真章,心合力合争进位——聊城市…     · 中国企业联合会课题组专家就党建工作与生产…     · 中国企业联合会课题组到雄安站项目进行考察…     · 中建三局:三微”党建品牌     · 中国企业联合会党建与管理融合创新课题正式…     · 2020年我们这样做基层党建工作     · 红色动能谱新篇——“中国企业党建创新项目…     · 如何建立班组共同原景——鼓励建立个人愿景…     · 如何建立班组共同原景——鼓励建立个人愿景…     · 如何建立班组共同原景——找准班组创争切入…     · 严格落实管理责任 提高风险管控水平     · 杜祥琬:我国能源转型 需在六大观念上创新…     · 如何建立班组共同原景——理念导入     · 全面推进复工复产要守住安全生产底线     · 愿景引领班组成长     · 坚决扛起全面从严治党和防范化解煤矿重大安…     · 青岛港愿景的层次及互动关系     · 工业和信息化部、应急管理部召开煤炭行业工…     · 青岛港原景的构成要素     · 国家统计局:2020年2月份工业生产者出厂价…     · 沿海煤市维持供需偏弱态势     · 把学习型班组作为创建学习型组织的关键(二…     · 最高层5天3次会议,这一定调近年罕见!习近…     · 把学习型班组作为创建学习型组织的关键     · 习近平作出重要指示强调 务必高度重视对医…     · 培育知识型职工需要学习型组织     · 《中国共产党党员教育管理工作条例》     · 青岛港愿景的层次及互动关系     · 激活组织 点燃生命-学习型企业强化训练营纪…     · 把学习型班组作为创建学习型组织的关键(二…     
您所在的位置:首页 > 资讯中心 > 管理分享 > 学习型组织 > 正文

傅盛:关于深度学习的五个思考

作者: 来源: 日期:2016-9-23 9:16:47 人气:332 标签:

深度学习,它给我们真正带来的东西是什么?未来,对行业和社会有什么影响?中国公司的机会在哪?


最重要是——深度学习真的给我们带来影响了吗?


答案显而易见。


任何一场革命,绝不是以敲锣打鼓的方式,来到你的身边。等到某一天,你忽然发现快要天翻地覆时,再去看,发现自己已被别人抛弃了。


过去以端为中心的技术革命,不能说结束了,但已不再是时代的风口。


技术,进入了一场以数据为驱动的革命。


互联网不再只是一张虚拟的网,而更像是一个大数据库。大量的数据,沉甸甸,就在那里。没有人知道,怎么把这些数据,更加完整清晰的表达出来。


我们需要重新思考技术的致胜点。


怎么思考呢?我讲几个关键点。


1.数据和运算能力,变得越来越重要。


孔子说过一句话:“学而不思则罔,思而不学则殆”。


先说,学而不思则罔。你拿了很多知识,不深度学习,不行。如果你没有运算能力,有了一堆数据,算不出来,没用。不是深度越深,效果越好。


这是个复杂的问题。需要不停算,不停实验。


今天,整个深度学习的理论,还不够成熟,依然落后于实践。更多时候,只能靠试。此时,运算能力,就变得非常关键。


假如,别人做一次运算,要两个礼拜,而你只需要一天或2个小时。同样时间内,你可以做更多实验,积累更多宝贵经验,迭代速度也更快。


这就好像,两个人起点一样,但由于迭代速度不同,导致了最后成就的千差万别。每一次迭代,相当于你的一次翻版。你是一天迭代一次,还是一年迭代一次。你对自己翻版本的速度有多快,决定你最后以多大的成果超过对手。


思而不学则殆呢?简单说,如果你没有数据,一点用都没有。


这个时代越来越需要海量数据。数据量越大越好。甚至于,我们以前被认为不是很关键的数据,都有可能灌进去,再看效果。


这才有了一句流行语——Welcome to the GPU world.


GPU最早为快速满足增长的图形计算需求而设计。它不同于CPU,在多核多线程处理上浮点性能更佳,使得它在图形界的并行运算,变得超强。


早期,谷歌发表了一篇论文说——深度学习的结果,要跑在英伟达的GPU上。很快,做芯片起家的英伟达,其公司股价开始蹭蹭蹭一路上涨,涨了好几十块。


然而,如果今天,你还以为英伟达是个显卡公司,那就大错特错了。如今汽车的防撞系统,警告系统,以及无人驾驶采用的双目视觉图像处理,英伟达是第一大提供商。它其实变成了一家人工智能公司。


说到这,大家可能也会奇怪——今天关于无人驾驶,辅助驾驶的新闻越来越多,也有越来越多的公司在做,为啥呢?


核心就在于,深度学习极大降低了这一门槛。只要你能拿到足够数据,就可能实现对物体的各种判断。


本质也带来了一个技术上弯道超车的好机会。很多公司辛苦积累的软件技术直接作废了。包括IBM做了语音输入好多年,上来就被深度学习超越了。尤其当谷歌进入语音输入时,一下就超越了IBM多年的技术积累。与此同时,谷歌还有足够多的数据,以及足够多的语音样本,不停输入。


算法为核心的竞争力,正转换成数据为核心竞争力。


我个人觉得,甚至有些算法会消失掉。但,并不是说算法不重要。只是神经网络的核心算法,提升起来太难。


现在大家都把专注度放在了数据和运算。尤其在深度学习里,获取足够多的数据,就有机会产生更好的结果。神经网络本身差异不会很大,关键比的是——谁能把这些数据用好,并快速计算。


数据变得越来越重要。尤其在深度学习里,获取足够多的数据,就有机会产生更好的结果。神经网络本身差异不会很大,关键比的是——谁能把这些数据用好,并快速计算。


2.公司研发结构会发生很多改变,数据获取和数据标注会变得非常重要。


中国在这场竞争中,还是有很大机会。能够轻易获取的互联网数据,以及低成本的众包劳动,将为中国公司带来训练所需的计算和人力资源。


第一,数据获取的量级。尽管美国整个技术的前沿性很好,问题在于——硅谷一家小公司拿到的数据,和一家中国告诉发展的互联网公司拿到的数据,不可同日而语。


第二,数据标注的成本。在美国,要搞数据标注,肯定很累,多贵啊!但在中国,到珠海或成都随便找300个人,去帮你标注,成本很低。ImageNet图像分类大赛,中国人取得的成绩明显突出。国外,微软或谷歌参赛,都是几个人去做图像标注和算法验证。而中国可以组织足够多的人去做标注。


我认为,ImageNet大赛,未来的世界冠军都会来自中国。


3.并行异构计算的人才,变成核心竞争力。


过去计算领域都是以CPU为中心的计算模式。深度学习要将CPU和GPU两个加起来。这是两个技术的计算模型,是异构的模型。


为什么要异构?因为GPU是并行的。它需要用来显示。为了让你的屏幕刷新保持更快更流畅,就要把GPU分成很多个小的运算单元。每一个运算单元,负责屏幕某一块具体区域的刷新。而大量这样的运算单元都包含在一个GPU当中。要想跑得快,就得把计算逻辑放在CPU中,同时再把你准备好的数据拷贝到GPU中。然后呢?GPU再用并行的方式,计算准备好的这些数据。这就是异构的模型。


这个模型,是计算体系,也是硬件体系的一次革命,是真正的技术革命。


举个例子。现在要完成一个复杂的大型任务,需分割在100台机器,让它们分开跑,又同时共同执行同一个全局任务,需要一个数学上严格的方法来完成。这意味着,每一次计算更新的时候,都要把大数据刷一遍,刷几千遍是何其难的事情。几十亿个参数的深度学习模型,每一次迭代都要把参数刷一遍。尤其数据量足够大时,这是很难的。


因此,能否调动大量的运算资源,就会成为核心竞争力。我的判断是,未来整个研发结构——重数据,重运算,这两点,必然出现。


4.语音和视觉,将成为下一代交互模式。


可能大家没有注意一个数据,谷歌已经有20%的搜索来自语音。这是很可怕的一个趋势。


我认为,语音和视觉会是下一代的交互模式。


过去我们从PC时代的十指模式(电脑键盘),走到今天的拇指模式(手机),未来一定是自然模式(语音和视觉)。


因为,太多的交互都会变得很简单。有多简单呢?只会用接触的方式去完成。今天之所以还没有大规模到来,其实是技术不够成熟。


亚马逊发布Echo时,为什么谷歌那么在意?我觉得很重要的一点,就是它通过300万台的设备,不停地拿数据——用户的每一次说话,都是一次新的数据。这个数据足够多,又反过来加深它的语音能力。


交互模式的变化,不仅改变了产品,也影响了数据方式。


5.深度学习在各个领域产生的变革才刚刚开始。


无论是现阶段的内容个性化推荐,还是未来输入方式的改变,还有太多地方,可以被深度学习改变。


比如人脸识别。今天你用支付宝,或招商银行客户端,都会让你扫一扫,准确率已经相当高了。高到什么程度呢?有一家公司专门为海关提供人脸识别服务。以前用人工查看,看两个小时后就会出错,加上深度学习算法的系统,极大降低了人脸识别的出错率。


我认为,只要需求越多,它就会越来越准。


比如小米手机出了面孔功能。根据人脸识别进行照片分类。已经可以达到92%的准确率了。包括猎豹。我们在全球有6亿月度活跃用户,一旦建立起深度学习的核心技术能力,猎豹向很多领域的扩展和应用结合就会变成可能。


如果你把深度学习看成一种“工具”,就会发现——它有很多和其它领域,包括传统行业相互结合的机会。


漫漫长路,才刚刚开始。

本文网址:http://xxxzzlm.org/show.asp?id=1654