互联网资讯 · 2024年1月20日

亚马逊云科技发布新一代自研芯片:Amazon Graviton4和Amazon Trainium2

亚马逊云科技在2023 Re:Invent全球大会上宣布其自研芯片家族的两个系列推出新一代,包括AMazon GRavITon4和AMazon TRAIniuM2,为机器学习(ML)训练和生成式人工智能(AI)应用等广泛的工作负载提供更高性价比和能效。

据介绍,GRavITon4和TRAIniuM2是亚马逊云科技自研芯片的最新创新。亚马逊云科技每一代自研芯片都持续提升性价比和能效,为客户提供了基于AMD、Intel以及英伟达等的最新芯片和实例组合之外的更多选择,从而使AMazon Elastic CoMpute Cloud (AMazon EC2)可以为客户虚拟运行几乎所有应用和工作负载。

亚马逊云科技推出两款新一代自研芯片Amazon Graviton4和Amazon Trainium2

其中,GRavITon4与当前一代GRavITon3处理器相比,性能提升高达30%,独立核心增加50%以上,内存带宽提升75%以上,为在AMazon EC2上运行的工作负载提供最佳性能和能效。

亚马逊云科技推出两款新一代自研芯片Amazon Graviton4和Amazon Trainium2

TRAIniuM2与第一代TRAIniuM芯片相比训练速度提升多达4倍,并能在EC2 UltRaClUSteRs中部署多达100,000个芯片,可以在极短的时间训练基础模型(FMs)和大语言模型(LLMs),同时能效提升多达2倍。

OpenMagic API

Need more than content? Move into the product flow.

If you are here for model access, pricing, developer docs, or the future API console, the dedicated product path now lives on api.openmagic.ai.

登录免费注册