服务器 频道

GPU掀起深度学习革命 助力科大讯飞创新

  【IT168 评论】计算机发展到今天,已经大大改变了我们的生活,我们已经进入了智能化的时代。但要是想实现影视作品中那样充分互动的人工智能与人机互动系统,就不得不提到深度学习。

  深度学习(Deep Learning)在这两年风靡全球,大数据和高性能计算平台的推动作用功不可没,可谓深度学习的“燃料”和“引擎”,GPU则是引擎的引擎,基本所有的深度学习计算平台都采用GPU加速。同时,深度学习已成为GPU提供商NVIDIA的一个新的战略方向。

  在上周举办的2015全国高性能计算学术年会上,深度学习再次成为热点。那么,GPU用于深度学习的最新进展如何?深度学习方面有哪些案例?哪些厂商在研究深度学习?深度学习与GPU结合的前景以及未来技术趋势到底是怎么样的?

  带着这些问题小编有幸在HPC China上采访到了科大讯飞内核研发中心研发总监于振华、科大讯飞深度学习平台研发主管张致江、NVIDIA中国区政府销售总监Tomas He和NVIDIA中国区企业传播高级经理Steven Jin,从典型应用和行业发展等多个角度进行了深入解读。

  GPU成为深度学习的强大加速动力

  在HPC China大会上,NVIDIA解决方案工程架构副总裁Marc Hamilton表示:“在NVIDIA的推动下,过去7年间整个加速计算领域获得了10倍的增长,NVIDIA的GPU加速器占据了加速器市场85%的份额。同时在GPU的驱动下全球和中国都掀起了深度学习热潮,GPU也已成为深度学习研究的首选技术平台。”

  熟悉深度学习的人都知道,深度学习是需要训练的,所谓的训练就是在成千上万个变量中寻找非常好的值的计算。这需要通过不断的尝试实现收敛,而最终获得的数值并非是人工确定的数字,而是一种常态的公式。通过这种像素级的学习,不断总结规律,计算机就可以实现像人一样思考。那么,在这个训练的过程中科大讯飞是如何利用GPU加速从而实现最好的训练效果的呢?

GPU掀起深度学习革命 助力科大讯飞创新
科大讯飞深度学习平台研发主管张致江(左)科大讯飞内核研发中心研发总监于振华(右)

  科大讯飞内核研发中心研发总监于振华表示:目前在深度学习训练方面,跑的大部分是矩阵运算,包括CNN、GNN,大部分都是矩阵运算或卷积运算,实际上我们所有运算几乎都是放在GPU加速卡上的。CPU基本上属于一个很“瘦”的状态,不需要太强的级别,但因为目前这种构架,所有的通信和数据传输都要经过CPU,在硬件构架方面也存在一定的限制,我们未来还将通过新的设计解决传输带宽的问题。

GPU掀起深度学习革命 助力科大讯飞创新
NVIDIA中国区政府销售总监 Tomas He

  NVIDIA中国区政府销售总监Tomas He表示:从目前来看,深度学习大量的使用,主要集中在训练方面。那么在这个领域,GPU确实是非常适合的,这也体现在所有的这些工业界的大佬如BAT、谷歌,Facebook等等,都在使用GPU在做训练。而除了训练之外,在实际的应用方面,NVIDIA也正在结合中国地区IDC机房普遍具备的功耗、网络等特点,考虑是否设计低功耗的GPU,来满足用户的需求。

  软硬结合 让GPU在深度学习领域更生态

GPU掀起深度学习革命 助力科大讯飞创新
NVIDIA中国区企业传播高级经理 Steven Jin

  “NVIDIA对于深度学习的投入,不仅仅是发布一个Tesla显卡,NVIDIA希望对深度学习有一个全方面的培育,我们希望在这个领域NVIDIA可以充当一个领路者的角色。”NVIDIA中国区企业传播高级经理Steven Jin表示。

  NVIDIA中国区政府销售总监Tomas He补充说道:NVIDIA正借助深度学习完成向一个平台化的公司转型。

  在硬件方面,得益于统一的GPU架构,从嵌入式到桌面再到HPC和云服务,NVIDIA可为不同的硬件平台均提供深度学习研究的支持。其中,Tesla K80即有针对深度学习任务的优化,在深度学习框架Caffe中,Tesla K80的速度更可以比CPU快上近24倍。

  在软件方面,NVIDIA推出了DIGITS深度学习训练系统,它是首个专门用于图像分类的全功能图像系统,可用于设计、训练和验证深度神经网络,目前已推出最新的DIGITS 2可以充分利用多GPU扩展实现性能翻倍。NVIDIA还推出了cuDNN(CUDA深度神经网络库),让开发者可以将其集成到更高级的机器学习框架如Caffe、Torch、Theano中,这些框架均可充分利用GPU加速,帮助研究人员高效地训练更大、更复杂的神经网络。

  针对本地化合作伙伴的发展,NVIDIA还联合曙光、浪潮等HPC领域的众多合作伙伴,推动中国深度学习生态链的构建,助力中国企业在深度学习领域的创新。例如NVIDIA和曙光合作的XSystem深度学习产品,可为用户提供完整的软硬件一体化深度学习解决方案;NVIDIA与曙光、中科院计算技术研究所共建的深度学习与高性能计算联合实验室,将联合开展深度学习软硬件产品的开发和推广工作。

  对于NVIDIA来说,深度学习是GPU计算发展的大好时机,也是继HPC之后一个全新的业务增长点。正如Tomas He所提到的那样,NVIDIA将世界各地的成功经验带到中国,包括国外的成功案例、与合作伙伴的良好关系等等,帮助中国客户快速成长。

1
相关文章