IPU革命新一代芯片赋能AI颠覆计算机史

在计算机历史的第三次革命中,Graphcore推出了IPU(Intelligence Processing Unit),这是一种专为AI设计的处理器。Hermann Hauser被誉为英国半导体之父,也是Arm联合创始人,他曾经说:“在计算机历史上只发生过三次,第一次是70年代的CPU,第二次是90年代的GPU,而Graphcore就是第三次。” Nigel Toon和Simon Knowles,这两位创始人之前已经成功创建了Icera公司,并将其卖给了英伟达。

Graphcore的IPU解决了内存墙问题,使得AI芯片性能可以得到更大提升。这一创新架构使得IPU成为一个全新的处理器类型,它能够满足人们对高效易于使用处理器的需求。Nigel Toon认为,AI有三类芯片:第一类是小型化加速器;第二类是ASIC;第三类是可编程处理器,如GPU。而Graphcore的IPU属于这个分类,但它是一个非常灵活、针对AI设计的处理器架构。

与传统处理器不同,IPU拥有1216个核,每个核都包含计算单元和内存。这种设计使得单个IPU拥有45TB存储带宽,比性能最快HBM提升50%以上。在相同算力下,功耗也降低了一半。此外,IPU还具有数百兆字节RAM,可以以1.6GHz速度运行。

为了提高数据通信效率和解决数据通信挑战,Graphcore开发了all-to-all总线协议,以及通过Ipu-Link支持128个芯片之间互联。此外,对于超大规模训练应用,还有专门开发出的Ipu-Pod技术,可以把几千甚至几万颗Ipu连接起来。

通过BSP配合Poplar软件栈,不仅可以提升效率,而且提供了一种简单易用的方式,让算法工程师不必担心复杂的问题。Nigel Toon总结表示,与其他AI芯片相比,有三个核心区别:MIMD架构、模型在处理器内部、大规模并行且高通信效率。

同样地,这样的硬件对于推理和训练都是适用的。这意味着客户不需要购买额外设备,只需购买一次即可满足不同的需求,从而减少成本并增加便利性。此外,由于其独特性质以及不断创新,不难预见未来几年中.Graphcore会继续专注于算力密集场景,并获得更多客户认可与采用。

标签: 智能输送方案

猜你喜欢