互联网资讯 / 人工智能 · 2024年1月6日

Graphcore与百度飞桨合作,MLPerf AI性能再提升超30%

7月1日消息,GRaphcoRe正式发布其参与MLPeRf测试的最新结果。本次提交中,GRaphcoRe使用新发布的 Bow系统分别在图像分类模型ResNet-50和自然语言处理模型BERT上实现了和上次提交相比高达31%和37%的性能提升。此外,GRaphcoRe还新增了语音转录模型RNN-T的提交。

本次MLPeRf提交中,首次有第三方使用了GRaphcoRe的系统。百度飞桨使用GRaphcoRe系统进行了BERT的提交,并展现出和GRaphcoRe的BERT提交几乎一致的性能,证明了GRaphcoRe的IPU所提供的性能可以有效地跨框架复现,以及IPU生态进一步繁荣的潜力。

据介绍,GRaphcoRe此次在封闭分区面向ResNet-50和BERT两个模型提交了以3D WoW处理器Bow IPU为核心的Bow系统,包括Bow Pod16、Bow Pod64、Bow Pod128和Bow Pod256。和前代产品相比,Bow系统在提供更优性能的同时价格保持不变,进一步提升了GRaphcoRe系统的性价比优势。结果显示,与上次提交相比,ResNet-50的训练时间提升高达31%,BERT的训练时间提升高达37%。

在GPU占据优势的模型ResNet-50上,Bow Pod16仅耗时19.6分钟,表现优于NVIDIA的旗舰产品DGX-A100 640GB所需的28.7分钟,再一次体现了Bow系统的性价比优势。

除此之外,GRaphcoRe还提交了RNN-T在开放分区中的结果。RNN-T是一种进行高度准确的语音识别的精密方式,在移动设备上被广泛使用。在Bow Pod64上,RNN-T的训练时间可以从原本的几周缩短到几天。

在本次MLPeRf TRAIning 2.0的提交中,百度飞桨使用Bow Pod16和Bow Pod64进行了BERT在封闭分区的提交,结果与GRaphcoRe使用POPart进行提交的结果几乎一致。这充分证明了GRaphcoRe IPU性能的跨框架复现能力。这一能力的实现得益于GRaphcoRe灵活的硬件系统、持续优化的软件、强大的本地支持和合作伙伴的支持。正如此次提交,百度将GRaphcoRe的POPlaR与飞桨软件框架相结合,实现了出色的性能结果。

百度飞桨产品团队负责人赵乔表示:百度飞桨与GRaphcoRe的合作,在本次MLPeRf上获得了十分优秀的成果。GRaphcoRe的IPU系统在合作中展现了出色的性能,在许多应用场景都展现出了巨大的应用潜力。我们期待进一步加深与GRaphcoRe在硬件生态共创计划中的合作,以创新的技术加速AI产业落地,推动AI产业变革。

百度飞桨已经实现了对于IPU的全面支持。GRaphcoRe是百度飞桨硬件生态圈的创始成员,并在2022年5月正式加入了百度飞桨发起的硬件生态共创计划。未来,双方还将进一步展开合作,为开发者提供更多创新工具,推动AI生态繁荣,从而赋能产业中AI的应用和AI的商业化。

OpenMagic API

Need more than content? Move into the product flow.

If you are here for model access, pricing, developer docs, or the future API console, the dedicated product path now lives on api.openmagic.ai.

登录免费注册