全球AIoT产业·智能制造峰会
您正在使用IE低版浏览器,为了您的雷锋网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
此为临时链接,仅用于文章预览,将在时失效
芯片 正文
发私信给包永刚
发送

0

为AI颠覆GPU!计算机史上迎来第三个革命性架构IPU

本文作者:包永刚 2019-11-18 18:35
导语:在计算机历史上只发生过三次革命,第一次是70年代的CPU,第二次是90年代的GPU,而Graphcore就是第三次革命。

被誉为英国半导体之父,也是Arm联合创始人的Hermann Hauser曾经这样说:“在计算机历史上只发生过三次革命,第一次是70年代的CPU,第二次是90年代的GPU,而Graphcore就是第三次革命?!?他所指的正是Graphcore率先提出的就是为AI计算而生的IPU(Intelligence Processing Unit)。

为AI颠覆GPU!计算机史上迎来第三个革命性架构IPU

内存墙是阻碍AI芯片性能提升的关键,因此计算架构的创新变得更加重要,不过这其中大部分的架构创新都是在已有的架构基础上。Graphcore联合创始人兼CEO Nigel Toon在ASPENCORE主办的2019 CEO峰会期间接受雷锋网(公众号:雷锋网)采访时表示,Graphcore开创了全新的处理器类型IPU,IPU是专为机器智能设计的处理器,能够满足人们对高效易于使用的处理器的需求。

为AI颠覆GPU!计算机史上迎来第三个革命性架构IPU

左:Graphcore销售副总裁/中国区总经理卢涛,右:Graphcore联合创始人兼CEO Nigel Toon

左右逢源的英国AI独角兽

Graphcore在风险资本的支持下于2016年在英国成立,成立三年时间,就获得了3.25亿美元的融资,去年估值就达到了17亿美元,其中的投资者既有像红杉资本这样的金融投资者,也有像戴尔、三星、微软等的战略投资者。

除了资本的认可,Graphcore还获得了多位AI领域的知名学术投资人为其背书,比如DeepMind 的联合创始人 Demis Hassabis、剑桥大学的 Zoubin Ghahramani 和 Uber 的首席科学家、加州大学伯克利的 Pieter Abbeel 以及 OpenAI 的 Greg Brockman、Scott Grey 和 Ilya Sutskever等。

被称为AI教父Geoff Hinton就曾说,“我认为我们需要转向不同类型的计算机。幸运的是,我这里有一个?!盚inton伸手进入他的钱包,拿出一个又大又亮的硅片,这个硅片就是Graphcore的IPU。

为AI颠覆GPU!计算机史上迎来第三个革命性架构IPU

创立这家获得学界和资本都认可的两位创始人是Nigel Toon和Simon Knowles,Graohcore也是他们的第二次创业。 2002年,Toon和Knowles(现任Graphcore CTO)在英国Bristol共同创办了Icera,致力于打造3G modem芯片,2011年被英伟达以3.7亿美元的价格收购。

在Icera被收购之后不久,Nigel Toon和Simon Knowles就在思考再次进行创业,基于两位创始人的经验以及对未来的判断,在2016年创立了了Graphcore。如今,Graphcore在伦敦、剑桥、台湾、北京、Palo Alto、Oslo都设有办公室,员工人数将在今年底达到400人,IPU也已经于去年底推出。

那么,IPU为何能受到如此多的关注和期待?

全新类型处理器架构——IPU

Nigel认为,AI有三类芯片,第一类是简单的小型化加速器,用于手机、传感器等;第二类是ASIC,比如谷歌的TPU;第三类是可编程处理器,目前市场上只有GPU,Graphcore的IPU属于这个分类,但又有所不同,因为IPU是一个非常灵活的处理器,从零开始,是专门针对AI设计的处理器架构,在未来很多新的AI应用中,IPU也会表现的更好。

之所以要推出IPU,是因为Nigel看到,如果只是针对基本的前馈卷积神经网络,GPU是一个非常好的解决方案,但随着网络变得越来越复杂,人们需要一个新的解决方案,ASIC和FPGA的采用就已经证明了GPU的弱点。

“我们接触过的所有创新者都说使用GPU正在阻碍他们创新。如果仔细看一下他们正在研究的模型类型,你会发现他们主要研究卷积神经网络,递归神经网络和其他类型的结构,例如强化学习,并不能很好地映射到GPU。这也正是我们将IPU推向市场的主要原因?!?/strong>

Nigel指出,IPU是我们开创的一个全新的处理器类型,专为AI设计,IPU强大的并行处理能力实现了快速训练模型并进行实时操控。其实现在有一些国外公司也在说他们的产品叫IPU,但我们首创的这个叫法,而且技术产品跟我们相比还差很多。

那IPU架构到底独特在哪里?Graphcore销售副总裁/中国区总经理卢涛对雷锋网表示,Graphcore的IPU里面有1216个核,我们称之为Tile,每个Tile里都有计算单元和内存。由于同时有上千个处理器工作,所以单个IPU的存储带宽能达到45TB,比性能最快的HBM提升了50倍以上,在相同算力下,功耗也降低了一半。

为AI颠覆GPU!计算机史上迎来第三个革命性架构IPU

根据Graphcore的说法,IPU处理器是迄今为止最复杂的处理器芯片,基于16纳米的工艺集成了240亿个晶体管,每个芯片提供125 teraFLOPS运算能力。借助IPU,一个完整的机器学习模型可以在处理器内部处理。而且IPU处理器具有数百兆字节的RAM,可在处理器上以1.6 GHz的速率全速运行。

但是,提高带宽的同时,如何解决数据的通信以及提升数据的使用效率就是非常关键的问题,也是关键挑战。卢涛表示, IPU内部里有一个叫all-to-all总线,这个互联总线,可以高速实现任意一个核到另外一个核的直接访问。涉及到跨多个芯片的时,通过IPU-Link就可以把多个IPU联结在一起,组成一个集群。当然,all-to-all总线中间的BSP(Bulk Synchronous Parallel)协议,不仅用于同一个芯片的不同核之间,而且跨芯片的核之间也可以通过该协议透过 IPU-Link 总线进行通信。

IPU-Link最多可以支持128个芯片的互联,如果要进行更大规模的训练,可以通过以太网或者Infiniband进行互联,另外针对超大规模AI 训练应用,Graphcore还开发了专门的IPU-POD。IPU-POD 是由 IPU-machine 组成的 POD,每个 IPU-machine 上集成的IPU-Gateway芯片里有一个叫做IPUoF的技术,能够把几千甚至几万颗的 IPU 处理器连在一起。

解决了数据通信的问题,还有数据的效率问题。IPU没有采用传统处理器架构中保证多个处理器数据一致性的Cache协议,而是通过BSP配合Poplar软件栈的方式来提升效率。Nigel Toon表示,很多人都部署了BSP,但只是用在主机之间,也就是大规模的并行机制,我们在芯片上实现了BSP,同时配合Poplar的软件栈工具/编译器,它会把算法模型、数据处理之后,映射或者分配到处理器的不同位置,并定义好交换和同步的时间等,不仅更易于使用,而且具有足够的灵活性。

这样即使对于算法公司而言,虽然处理器有1000多个核,7000多个线程,但是不需要太担心通信的问题,能够让算法工程师非常方便地用。

Nigel Toon总结表示,IPU与其它的AI芯片相比,有三个比较核心的区别:

第一,处理器核的架构不同,IPU是MIMD的架构。

第二,IPU的模型在处理器内。

第三,大规模并行,IPU核之间的通信效率也非常高,这非常难,Graphcore进行了大量的创新。

为AI颠覆GPU!计算机史上迎来第三个革命性架构IPU

相同的IPU硬件就可用于推理和训练

对于芯片公司而言,设计出独特的芯片并不是最难的,更难的是获得客户的认可和采用。Nigel Toon表示,未来几年Graphcore都会专注在算力比较密集的场景,而不会做终端的应用。IPU也更能够适应未来整个行业的变化非???,模型的大小每3.5个月就会增长一倍。并且,模型参数增加一倍,但最后还是要拆成不同的尺寸,算力需求的增长将不止两倍,所以未来的算力需求将会呈现指数型的增长。

卢涛补充表示,现在AI做的主要是图片的目标识别,自然语言处理对算力的要求更高,未来视频的分析需要更高的算力,如何把AI应用到AR、VR都对算力提出了巨大的要求。

为AI颠覆GPU!计算机史上迎来第三个革命性架构IPU

需要指出的是,使用相同的IPU就能进行AI训练和推理。在大家普遍的认知中,推理和训练对于算力有着巨大的需求,不过Nigel Toon认为,训练和推理技术上本质上没有很大区别,先通过数据训练出模型,部署的时候实际上是通过推理是把模型拿出来。在未来的应用里,部署的场景可能是推理,同时还要不停地训练和更新这个模型。

为AI颠覆GPU!计算机史上迎来第三个革命性架构IPU

“从架构的角度,这对我们非常重要,因为随着机器学习演进,系统将能够从经验中学习。推理性能表现的关键包括低延迟、能使用小模型、小批次,以及可能会尝试导入稀疏性的训练模型;IPU可以有效地完成所有这些事情?!?/p>

据介绍,在一个4U机箱中,16颗IPU共同合作协作进行训练,每颗IPU可以执行独立的推论任务,并由一个CPU上执行的虚拟机来控制,最终得到一个可用于训练的硬件。一旦模型被训练、布署,随着模型演进且想要从经验中学习时,就可以采用相同的硬件。

卢涛进一步指出,由于IPU架构的特性,模型部署的时候精度和训练的结果会保持一致,另外在 IPU 里面要做的计算跟要处理的处理都是在本地,以及 IPU 这种超大规模小型向量机的架构,使得IPU做稀疏化应用场景的时候,天生性能就会更好。所以IPU既可以用于云服务器,在边缘端,IPU也非常擅长,自动驾驶就会是我们很重要的应用场景。

但还有一个关键问题,拥有如此多核心和片内存储的IPU是否会成本高昂?Nigel Toon表示不一定,因为客户都会关注效能,如果 IPU的架构在实际应用场景实现几倍甚至几十倍的性能优势时,实际的总体拥有成本还是大幅降低。

有意思的是,在技术创新的同时,Graphcore也进行了商业模式的创新。Nigel Toon表示,我们目前没有采用传统芯片销售的模式,我们更多的是通过合作,有两大类公司会是我们的合作伙伴,一类是服务器公司,目前我们已经与戴尔易安信合作推出了IPU服务器,和中国的服务器厂商合作进展也很快,估计很快就会有搭载我们IPU的服务器上市。

另外一类是云服务提供商,在新的时代,IT产品交付给最终的用户,云服务厂商非常重要。我们会和中国、美国的公司都进行合作,但具体的合作暂时还处于保密阶段。

最近,Graphcore宣布与微软的具体合作内容,并正式发布Microsoft Azure上Graphcore智能处理单元(IPU)的预览版,这是公有云领导供应商首次提供GrapchoreIPU。目前,Azure上的Graphcore IPU预览版现已开放供用户注册,专注于突破NLP界限并在机器智能方面取得新突破的开发者可获得优先访问权限。

对于中国市场,Nigel Toon表示中国是Graphcore非常重要的策略性市场,Graphcore的中国公司不仅会有销售和市场,还会注重工程技术方面的投入,会有很多定制化的开发工作,更好地与本地的社区、创新者一起用好IPU。

雷锋网小结

AI芯片要满足快速迭代的AI算法,算力的提升非常关键,但摩尔定律的放缓,让架构的创新变得更加重要,实际的情况是大部分创新都是基于已有的架构,Graphcore表示其IPU架构进行了更全面的创新,我们可看到其获得了资本和学术界的好评。当然,除了硬件架构的创新之外,软件工具链Poplar同样非常关键,这是IPU提升灵活性,降低算法开发者的应用门槛的核心,也是能比其它IPU性能更好的关键所在。

因此,AI的时代架构创新很重要,软硬件的协同更加重要。







雷锋网年度评选——寻找19大行业的最佳AI落地实践

创立于2017年的「AI最佳掘金案例年度榜单」,是业内首个人工智能商业案例评选活动。雷锋网从商用维度出发,寻找人工智能在各个行业的最佳落地实践。

第三届评选已正式启动,关注微信公众号“雷锋网”,回复关键词“榜单”参与报名。详情可咨询微信号:xqxq_xq

为AI颠覆GPU!计算机史上迎来第三个革命性架构IPU

雷锋网原创文章,未经授权禁止转载。详情见转载须知。

为AI颠覆GPU!计算机史上迎来第三个革命性架构IPU

分享:
相关文章

文章点评:

表情
最新文章
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
2019年第123期管家婆资料 云阳县| 玉屏| 兰考县| 宁河县| 平江县| 平凉市| 昌黎县| 廊坊市| 阜城县| 宜川县| 广汉市| 敦化市| 朔州市| 民乐县| 如东县| 平舆县| 宁陕县| 赣州市| 乃东县| 宜良县| 太保市| 乌拉特前旗| 读书| 汾西县| 楚雄市| 洞口县| 张家川| 读书| 贡山| 鹤壁市| 揭东县| 法库县| 武功县| 中牟县| 凤阳县| 榆林市| 南涧| 南江县| 鞍山市| 正定县| 江津市| 连州市| 安顺市| 杭锦后旗| 信丰县| 泾阳县| 西乌| 龙山县| 潮安县| 德兴市| 都兰县| 阜阳市| 宣威市| 徐水县| 额尔古纳市| 高唐县| 边坝县| 丹寨县| 余姚市| 弥渡县| 顺平县| 沈丘县| 渭南市| 北川| 昌吉市| 朝阳区| 克拉玛依市| 喀喇沁旗| 星座| 会昌县| 洛浦县| 启东市| 儋州市| 阿勒泰市| 鹿泉市| 石景山区| 酉阳| 长垣县| 湖南省| 密山市| 东乡族自治县| 黔江区| 金华市| 安仁县| 梅州市| 郯城县| 昌乐县| 弋阳县| 城固县| 岳阳市| 开原市| 新丰县| 理塘县| 兰州市| 河曲县| 台东市| 临夏市| 咸宁市| 平阴县| 乐亭县| 河南省| 桃园县| 修水县| 凤庆县| 炉霍县| 萨嘎县| 万宁市| 二连浩特市| 利川市| 静海县| 曲阜市| 化德县| 太康县| 从化市| 郯城县| 古丈县| 奉新县| 新营市| 太原市| 南溪县| 台东县| 涿州市| 河东区| 淮安市| 闸北区| 密云县| 万宁市| 清流县| 堆龙德庆县| 濮阳县| 翁源县| 朝阳区| 武川县| 晋州市| 古浪县| 章丘市| 库伦旗| 荔波县| 固镇县| 宽城| 肃北| 新密市| 蓝山县| 辉县市| 铜山县| 永宁县| 万宁市| 齐齐哈尔市| 武安市| 建宁县| 娄底市| 万山特区| 芷江| 稻城县| 电白县| 岳阳市| 林口县| 伊宁县| 浦城县| 个旧市| 渭南市| 邵武市| 泰和县| 合肥市| 鹰潭市| 龙井市| 论坛| 盈江县| 长岭县| 冷水江市| 凤台县| 建瓯市| 阜新市| 内丘县| 天津市| 水城县| 上杭县| 绥德县| 福清市| 南岸区| 泸西县| 旬邑县| 噶尔县| 白河县| 黔西| 社旗县| 武鸣县| 梅州市|