深度学习框架只为GPU? 答案在这里

2018-03-15 17:33:00 作者:鹰眼新闻 出处 : 博客

目前大多数机器学习是处理器上完成的,大多数机器学习软件针对GPU进行更多的优化甚至有人认为学习加速必须在GPU上才能完成,但事实上无论是运行机器学习的处理器还是优化的深度学习框架,都不单只针对GPU代号为“Skylake”的英特尔至强SP处理器就证明了这一点。

机器学习软件英特尔至强SP系列白金版上的一系列基准测试性能表现GPU上非常相近,了解了底层架构之后我们可以看到,在性能如此接近的情况下,使用GPU加速器更像是在购买一种奢侈品用户在GPU以外还有很多其他的选择。毫无疑问,在用户只需要机器学习的情况下,“加速器在性能能耗方面更有优势,大多数需要的不只是一台“智能的用于机器学习的服务器”,那就我们来重点看一下英特尔至强SP 白金级处理器为什么是最佳的选择:

CPU优化深度学习框架和函数库

英特尔在基于GPU优化的框架中增加了CPU优化深度学习框架, 打破了深度学习框架偏重于GPU而忽视CPU的行业现状,解决了目前这些框架缺乏CPU优化的实际问题。

TensorFlow由谷歌开发,是一个领先的深度学习和机器学习框架有面向Linux的处理器优化

Caffe是图片识别领域最受欢迎的应用之一英特尔提供的优化可以在CPU运行时提高Caffe的性能

Torch是当下流行的深度学习框架,需要优化CPU上应用,可以通过英特尔软件优化(比如英特尔至强可扩展处理器)提高Torch在CPU上的性能

Theano是一个开源的Python库,很受机器学习程序员的欢迎,它可以帮助程序员高效地定义、优化和评估涉及多维阵列的数学表达式

Neon是一个基于Python的深度学习框架,目的是在现代深度神经网络上实现易用性和可扩展性,并致力于在所有硬件上实现性能最大化。

MXNet是一个开源的深度学习框架

Python及其函数库是机器学习应用最受欢迎的基础组成,Python加速版过去几年得到了广泛应用,并且可以直接下载或通过Condayumapt-get或Docker images下载

BigDL是一个面向Apache Spark的分布式深度学习函数库。通过BigDL用户可以把自己的深度学习应用当作标准Apache Spark程序来编写,直接在现有Apache Spark或Hadoop集群上运行。在Torch基础上开发的BigDL可以为深度学习提供综合支持包括数值计算(通过Tensor)和高级神经网络;此外用户可以利用BigDL把提前训练的Caffe或Torch模型载入Spark程序。英特尔曾声称在一个单节点至强处理器上(例如与GPU相比),BigDL中的处理速度比原始开源Caffe、Torch或TensorFlow高一个数量级

英特尔MKL-DNN是一个开源的、性能强化的函数库,用于加速在CPU上的深度学习框架

英特尔数据分析加速库(DAAL)是一个包含了被优化的算法构建模块的开源函数库,针对大数据问题最相关的数据分析阶段。这个函数库适用于当下流行的数据平台,包括Hadoop、Spark、R和Matlab

结果证明一切,无论是TensorFlowCaffe还是TorchTheano这些深度学习框架都针对英特尔数学核心函数库(Intel MKL)和英特尔高级矢量扩展指令集(Intel AVX)进行了优化。通过CPU优化,TensorFlow和Caffe基准测试中CPU性能分别提高了72倍和82倍。

机器学习加速器

科技与行业发展是瞬息万变的,机器学习的加速器也会从GPU转向FPGA、ASIC等等,除非我们永远只需要一台只用于机器学习的服务器,只要一台服务器上想实现可以支持各种的工作负载,英特尔至强可扩展处理器无疑是最佳的解决方案加速器选择正在变得多元化这是整个行业的发展趋势多核CPU(英特尔至强融核处理器,特别是“Knights Mill”版)和FPGA(英特尔至强处理器,包含Intel/Altera FPGA)都可以提供更灵活的选择、卓越的性价比和能效。基于英特尔至强融核处理器训练或学习一个AlexNet图片分类系统速度是使用NVIDIA GPU的类似配置系统的2.3倍英特尔至强融核处理器的性价比最高可以是GPU解决方案的9倍,每瓦性能高8倍英特Nervana将推出更多专为人工智能开发的产品。英特尔至强SP系列处理器为机器学习提供卓越的性能,同时相比其他解决方案为我们带来了更多的功能选择让我们在产品与行业的发展中都可以拥有更多可能

最近更新
科普

邮件订阅

软件信息化周刊
比特软件信息化周刊提供以数据库、操作系统和管理软件为重点的全面软件信息化产业热点、应用方案推荐、实用技巧分享等。以最新的软件资讯,最新的软件技巧,最新的软件与服务业内动态来为IT用户找到软捷径。
商务办公周刊
比特商务周刊是一个及行业资讯、深度分析、企业导购等为一体的综合性周刊。其中,与中国计量科学研究院合力打造的比特实验室可以为商业用户提供最权威的采购指南。是企业用户不可缺少的智选周刊!
网络周刊
比特网络周刊向企业网管员以及网络技术和产品使用者提供关于网络产业动态、技术热点、组网、建网、网络管理、网络运维等最新技术和实用技巧,帮助网管答疑解惑,成为网管好帮手。
服务器周刊
比特服务器周刊作为比特网的重点频道之一,主要关注x86服务器,RISC架构服务器以及高性能计算机行业的产品及发展动态。通过最独到的编辑观点和业界动态分析,让您第一时间了解服务器行业的趋势。
存储周刊
比特存储周刊长期以来,为读者提供企业存储领域高质量的原创内容,及时、全面的资讯、技术、方案以及案例文章,力求成为业界领先的存储媒体。比特存储周刊始终致力于用户的企业信息化建设、存储业务、数据保护与容灾构建以及数据管理部署等方面服务。
安全周刊
比特安全周刊通过专业的信息安全内容建设,为企业级用户打造最具商业价值的信息沟通平台,并为安全厂商提供多层面、多维度的媒体宣传手段。与其他同类网站信息安全内容相比,比特安全周刊运作模式更加独立,对信息安全界的动态新闻更新更快。
新闻中心热点推荐
新闻中心以独特视角精选一周内最具影响力的行业重大事件或圈内精彩故事,为企业级用户打造重点突出,可读性强,商业价值高的信息共享平台;同时为互联网、IT业界及通信厂商提供一条精准快捷,渗透力强,覆盖面广的媒体传播途径。
云计算周刊
比特云计算周刊关注云计算产业热点技术应用与趋势发展,全方位报道云计算领域最新动态。为用户与企业架设起沟通交流平台。包括IaaS、PaaS、SaaS各种不同的服务类型以及相关的安全与管理内容介绍。
CIO俱乐部周刊
比特CIO俱乐部周刊以大量高端CIO沙龙或专题研讨会以及对明星CIO的深入采访为依托,汇聚中国500强CIO的集体智慧。旨为中国杰出的CIO提供一个良好的互融互通 、促进交流的平台,并持续提供丰富的资讯和服务,探讨信息化建设,推动中国信息化发展引领CIO未来职业发展。
IT专家网
IT专家新闻邮件长期以来,以定向、分众、整合的商业模式,为企业IT专业人士以及IT系统采购决策者提供高质量的原创内容,包括IT新闻、评论、专家答疑、技巧和白皮书。此外,IT专家网还为读者提供包括咨询、社区、论坛、线下会议、读者沙龙等多种服务。
X周刊
X周刊是一份IT人的技术娱乐周刊,给用户实时传递I最新T资讯、IT段子、技术技巧、畅销书籍,同时用户还能参与我们推荐的互动游戏,给广大的IT技术人士忙碌工作之余带来轻松休闲一刻。