互联网资讯 · 2024年2月9日

英伟达向SK海力士和美光预购大量HBM3内存据传

英伟达斥巨资拿下了HBM3内存的供应合同,预购了700亿至1万亿韩元的HBM3内存,以确保2024年HBM供应稳定。

三星电子、SK海力士、美光三大存储公司明年的HBM产能已完全售罄,HBM市场预计将在未来两年内实现快速增长。

英伟达正准备推出两款配备HBM3E内存的产品:配备141GB HBM3E 的H200 GPU以及GH200超级芯片。

H200是世界上首款采用HBM3e的GPU,基于NVIDIAHoppeR架构打造,可提供4.8 TB/s速度。

英伟达表示,HGX H200在LlaMa 2(700 亿参数 LLM)上的推理速度比H100快了一倍。HGX H200将以4路和8路的配置提供,与H100系统中的软件和硬件兼容,适用于各种数据中心,并由多家云服务商部署,将于2024年第二季度推出。

OpenMagic API

Need more than content? Move into the product flow.

If you are here for model access, pricing, developer docs, or the future API console, the dedicated product path now lives on api.openmagic.ai.

登录免费注册