英伟达斥巨资拿下了HBM3内存的供应合同，预购了700亿至1万亿韩元的HBM3内存，以确保2024年HBM供应稳定。
三星电子、SK海力士、美光三大存储公司明年的HBM产能已完全售罄，HBM市场预计将在未来两年内实现快速增长。
英伟达正准备推出两款配备HBM3E内存的产品：配备141GB HBM3E 的H200 GPU以及GH200超级芯片。
H200是世界上首款采用HBM3e的GPU，基于NVIDIAHoppeR架构打造，可提供4.8 TB/s速度。
英伟达表示，HGX H200在LlaMa 2（700 亿参数 LLM）上的推理速度比H100快了一倍。HGX H200将以4路和8路的配置提供，与H100系统中的软件和硬件兼容，适用于各种数据中心，并由多家云服务商部署，将于2024年第二季度推出。
