互联网技术 / 互联网资讯 · 2023年10月31日 0

Nvidia发布了改进的服务器GPU和全新Mellanox硬件

NVIDIA旗舰产品A100服务器GPU的最新版本包装的高速内存是其前身的两倍。

在推出新的旗舰服务器GPU六个月后,NVIDIA将对其进行内存升级,同时还将针对研究人员,超级计算机制造商和/或云巨头推出强大的硬件和网络解决方案。

英伟达的80GB A100 GPU
该公司周一早上宣布,现在可以购买具有80GB高速HBM2e内存的NVIDIA的A100服务器GPU(是以前的两倍)。

相比之下,英伟达最强大的游戏GPU GeFoRce RTX 3090和3080分别提供24GB和10GB GDDR6X图形内存。

除了单独出售外,还将通过NVIDIA的DGX A100服务器和HGX A100服务器底板提供80GB A100,它们可以包装多达8个通过NVIDIA专有的NVlink互连连接的A100 GPU。当然,它还将支持NVIDIA的DGX SuperPod解决方案,以快速构建GPU加速的超级计算机。

NVIDIA声称A100的内存提升功能可为各种AI模型训练,高性能计算(HPC)和数据分析工作负载显着提高性能,同时还改善了AI推理性能并使GPU更加节能。实际上,40GB A100是第一个基于NVIDIA Ampere架构的GPU ,相对于其前身Tesla V100,它在训练,推理和传统HPC工作负载方面提供了巨大的性能提升。

DGX站A100
NVIDIA与80GB A100一起推出了DGX Station A100,这是一款功能强大的工作组服务器,适用于AI / HPC研究人员,借助先进的冷却系统,该服务器已放置在台式机中。DGX Station A100包含四个80GB或40GB A100 GPU,以及一个64核AMD Epyc服务器CPU。

宝马,洛克希德&Middot;马丁公司和日本移动运营商NTT DoCoMo将成为DGX Station A100的第一批购买者。这三家公司都计划使用服务器来帮助他们进行AI研究。

400-Gig Mellanox互连
NVIDIA的Mellanox服务器互连部门将推出一系列新产品-统称为NDR 400G InfiniBand系列-支持400 Gb / s InfiniBand连接。迄今为止,Mellanox最强大的InfiniBand产品已达到200 Gb / s的最高水平。

Mellanox的400千兆字节InfiniBand阵容预计将于2021年第二季度开始提供样品。正值这一时期,正如NVIDIA首席执行官Jensen Huang强调的那样,网络连接经常成为服务器节点处理高要求AI的瓶颈。和GPU或其他加速器的帮助下的HPC工作负载。

NDR 400G InfiniBand系列产品包括400 gig适配卡和64端口交换机,承诺其交换机端口密度是其前一代产品的三倍。还有一个400千兆位数据处理单元(DPU),它将网络适配器功能与可以卸载各种网络,存储和安全处理功能的ARM CPU内核配对,以及可以处理400千兆位连接的铜缆和光收发器。

微软表示将支持NDR 400G的InfiniBand线。

NVIDIA仍然是AI培训和HPC /超级计算机加速器市场中的主导者,并且在新兴的AI推理服务器加速器市场中也扮演着重要角色。在超级计算机和云数据中心中,Mellanox的InfiniBand和以太网互连同样是常见的现象。

NVIDIA的宣布是在SC20超级计算会议期间进行的,并在周三下午发布的10月季度收益报告之前。NVIDIA高管将在美国东部时间周一下午6点进行SC20演示,以介绍其公司的最新产品。