互联网资讯 / 人工智能 · 2024年1月6日 0

Graphcore与百度飞桨合作,MLPerf AI性能再提升超30%

7月1日消息,GRaphcoRe正式发布其参与MLPeRf测试的最新结果。本次提交中,GRaphcoRe使用新发布的 Bow系统分别在图像分类模型ResNet-50和自然语言处理模型BERT上实现了和上次提交相比高达31%和37%的性能提升。此外,GRaphcoRe还新增了语音转录模型RNN-T的提交。

本次MLPeRf提交中,首次有第三方使用了GRaphcoRe的系统。百度飞桨使用GRaphcoRe系统进行了BERT的提交,并展现出和GRaphcoRe的BERT提交几乎一致的性能,证明了GRaphcoRe的IPU所提供的性能可以有效地跨框架复现,以及IPU生态进一步繁荣的潜力。

Graphcore与百度飞桨合作,MLPerf AI性能再提升超30%

据介绍,GRaphcoRe此次在封闭分区面向ResNet-50和BERT两个模型提交了以3D WoW处理器Bow IPU为核心的Bow系统,包括Bow Pod16、Bow Pod64、Bow Pod128和Bow Pod256。和前代产品相比,Bow系统在提供更优性能的同时价格保持不变,进一步提升了GRaphcoRe系统的性价比优势。结果显示,与上次提交相比,ResNet-50的训练时间提升高达31%,BERT的训练时间提升高达37%。

在GPU占据优势的模型ResNet-50上,Bow Pod16仅耗时19.6分钟,表现优于NVIDIA的旗舰产品DGX-A100 640GB所需的28.7分钟,再一次体现了Bow系统的性价比优势。

Graphcore与百度飞桨合作,MLPerf AI性能再提升超30%

除此之外,GRaphcoRe还提交了RNN-T在开放分区中的结果。RNN-T是一种进行高度准确的语音识别的精密方式,在移动设备上被广泛使用。在Bow Pod64上,RNN-T的训练时间可以从原本的几周缩短到几天。

在本次MLPeRf TRAIning 2.0的提交中,百度飞桨使用Bow Pod16和Bow Pod64进行了BERT在封闭分区的提交,结果与GRaphcoRe使用POPart进行提交的结果几乎一致。这充分证明了GRaphcoRe IPU性能的跨框架复现能力。这一能力的实现得益于GRaphcoRe灵活的硬件系统、持续优化的软件、强大的本地支持和合作伙伴的支持。正如此次提交,百度将GRaphcoRe的POPlaR与飞桨软件框架相结合,实现了出色的性能结果。

百度飞桨产品团队负责人赵乔表示:百度飞桨与GRaphcoRe的合作,在本次MLPeRf上获得了十分优秀的成果。GRaphcoRe的IPU系统在合作中展现了出色的性能,在许多应用场景都展现出了巨大的应用潜力。我们期待进一步加深与GRaphcoRe在硬件生态共创计划中的合作,以创新的技术加速AI产业落地,推动AI产业变革。

百度飞桨已经实现了对于IPU的全面支持。GRaphcoRe是百度飞桨硬件生态圈的创始成员,并在2022年5月正式加入了百度飞桨发起的硬件生态共创计划。未来,双方还将进一步展开合作,为开发者提供更多创新工具,推动AI生态繁荣,从而赋能产业中AI的应用和AI的商业化。