比辉达 H100 更强！NVIDIA 最强 AI 晶片 GH200 是什么？惊人跑分曝光

▼

生成式 AI 运算需求不断增长，助推 GPU 大厂辉达（NVIDIA）股价大涨再创新高。8 月中 NVIDIA执行长黄仁勋展览时再次力推 DGX GH200，是采 Grace Hopper 加速运算卡打造的新世代生成式 AI 超级晶片，也是 NVIDIA首款 Exaflop 等级的 DGX 超级电脑产品。

性能辗压 H100 17%

根据 9 月 11 日跑分数据，NVIDIA 宣布旗下 GH200、H100、L4 GPU 与 Jetson Orin 同类产品都获得领先表现。

GH200 首次提交单一晶片，与单张 H100 配合英特尔 CPU 比较后，GH200 组合各测试都至少有 15% 左右提升。NVIDIA人工智慧总监 Dave Salvator 新闻发表会表示：

Grace Hopper 首次表现非常强劲，与提交 H100 GPU 相比，性能提高 17%，而我们已全面领先。

▲ NVIDIA GH200 各方面辗压 H100。（Source：NVIDIA）

GH200 是什么？

官方说明，NVIDIA GH200 是首个将 H100 GPU 和 Grace CPU 整合在一起的超级晶片，这两者之间再通过频宽高达 900GB/s 的 NVLink-C2C 连互连接，扩充性更佳，以超快速度训练深度学习。

简单来说 GH200 就是记忆体容量更大，频宽也更大，并且能自动调节 CPU 和 GPU 间自电力，增加整体效能表现。

▲ NVIDIA GH200 Grace Hopper 超级晶片的架构。（Source：NVIDIA）

NVIDIA 表示 GH200 有三大特点：

• 适用大型模型的庞大记忆体：为开发人员提供超过 500 倍记忆体打造大型模型。
• 超节能运算：频宽提升 7 倍，互连功耗降低逾 5 倍。
• 已整合且立即执行：数周内即可打造大型模型。

多数选手性能比上一代提升至 20%

5 月 COMPUTEX 期间，NVIDIA CEO 黄仁勋提到 GH200 晶片预定 2024 年第二季量产。MLPerf v3.1 基准测试超过 13,500 个结果，不少提交者性能比 3.0 基准提高 20% 以上。

MLPerf 是让客户评估 AI 晶片效能的常用工具。

其他提交者有华硕、Azure、Connect Tech、DELL、富士通、Giga Computing、Google、H3C、HPE、IEI、英特尔、英特尔 Habana Labs、Nutanix、甲骨文、高通、Quanta Cloud Technology、SiMA、Supermicro、TTA 和 xFusion 等。

（本文由 动区动趋 授权转载；首图来源：NVIDIA）

▼

   特别声明    本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。