互联网技术 / 互联网资讯 · 2023年12月5日

Graviton2处理器提升40%性价比,AWS中国高管揭秘背后技术

2月5日消息,日前,亚马逊云服务(AWS)正式宣布,由 AWS GRavITon2 处理器提供支持的 AMazon Elastic CoMpute Cloud (AMazon EC2) M6g、C6g 和 R6g 实例已在由光环新网运营的 AWS 中国(北京)地区和由西云数据运营的 AWS 中国(宁夏)区域推出。这是AWS自研处理器首次落地中国区域。

截至2021年1月,AWS推出了近400种AMazon EC2实例,被全球几百万客户广泛使用。

作为一款AWS自研、基于ARM架构、原生为云而设计开发的芯片,AWS GRavITon2 处理器于2019年12月在AWS Re:Invent大会上正式发布。历时1年多正式落地中国,AWS大中华区云服务产品管理总经理顾凡表示,GRavITon2 处理器将给客户带来很多惊喜,GRavITon2的使用场景会打破大家对于ARM在企业级应用适用范围的原有认知。

事实上,因为海外业务需求增长,国内企业涂鸦智能和大觥科技均已率先采用GRavITon2 处理器支持的AMazon EC2实例来赋能公司业务发展。

据涂鸦云端开发部首席架构师陈亚焱介绍,涂鸦提供全球化AI+IoT平台,每天处理设备请求840亿次,请求高峰达150万次/秒,日处理1.2亿次AI语音交互。去年的黑五、圣诞、元旦,涂鸦均迎来一波流量增长高峰,这就要求平台必须做到非常实时的扩容。目前涂鸦已经将公司约40%的实例切换至GRavITon2架构的实例上。基于GRavITon2实例,涂鸦CPU性能提升100%,CPU占用率从之前的27%降到12%;服务器单价降低20%,整体性价比提升2.5倍。

大觥科技有限公司是一家专注AI影像处理领域科研和应用的公司,该公司服务多家电影厂、电视台、影视后期等企业级客户,同时针对个人用户,推出了国内app“你我当年&Rdquo;,以及海外app“Remini&Rdquo;。大觥科技副总裁袁泉介绍,2020年2月,海外ReMini业务量出现猛烈增长,使得公司算力支持遇到瓶颈,于是开始跟AWS合作。通过对比GRavITon系列的C6g和传统架构的C5.laRge两款机型,发现C6g在性能上提升了30%,在成本上节约了38%。

根据AWS官方提供的更全面的对比测试数据显示,与同配置X86实例相比,由AWS GRavITon2处理器提供支持的AMazon EC2 M6g、C6g和R6g实例的性价比提高了40%。

GRavITon2处理器何以有如此高的性能提升,近日AWS大中华区云服务产品管理总经理顾凡和AWS大中华区产品部计算与存储总监周舸接受了TechWeb等的采访,对GRavITon2处理器及其支持的EC2实例背后的关键技术及产品服务发展战略进行了解读。

第一条是AWS NITRo。2017年AWS第一次公开介绍NITRo,NITRo的研发升级旨在为用户提供更高的网络访问性能。到2020年,NITRo已经发展到了第四代。NITRo架构及NITRo卡的升级迭代,让AWS网络能力从最初10G的时代跨入到100G再到2020年的400G,存储带宽能力提升好几倍。

周舸介绍,设计GRavITon2的目标很简单,希望每一个核在GRavITon2里面,都能够达到最好的真实性能,满足客户现代化应用的需要。同时,我们希望在一个CPU里,放尽量多独立的核,以便最大程度的让它充分发挥平行扩展的能力。

周舸强调, 基于GRavITon2的C6g.laRge实例一级缓存多了4倍,二级缓存增大2倍。这些都充分让GRavITon2内核的CPU能够最大程度的适应云原生可平行扩展的微服务化应用,能够充分发挥它的能力。这是我们设计GRavITon2的最关键的一些特点。

目前,AWS GRavITon2 处理器提供支持的 AMazon EC2 M6g、C6g 和 R6g 实例已经正式落地中国。

其中,AMazon EC2 M6g为通用型实例,为工作负载提供均衡的计算、内存和网络资源,可用于开源软件应用程序,例如微服务、游戏服务器和消息队列等;C6g为计算优化型实例,计算资源配比较高,适用于计算密集型应用程序,例如高性能计算、批处理、广告服务、视频编码、游戏、科学建模、分布式分析和基于CPU的机器学习推理等工作负载;R6g为内存优化型实例,内存资源配比较高,适用于内存密集型应用程序,例如开源数据库、内存数据库和实时大数据分析。三类实例都分别有8种资源大小可供选择,分别为1个、2个、4个、8个、16个、32个、48个和64个vCPU,并且可以作为按需实例、预留实例或Spot实例购买,充分体现了云计算资源配置的灵活性。

OpenMagic API

Need more than content? Move into the product flow.

If you are here for model access, pricing, developer docs, or the future API console, the dedicated product path now lives on api.openmagic.ai.