微软力挺 AMD,成 Instinct MI300X AI 晶片最大客户

微软力挺 AMD,成 Instinct MI300X AI 晶片最大客户

AMD 去年 12 月 6 日举办主题 Advancing AI 的活动,推出新资料中心 Instinct MI300 系列 AI 晶片。Instinct MI300X 为纯 GPU 设计,采 CDNA 3 架构,可为 HPC 和 AI 提供突破性性能。

外媒 Seeking Alpha 报道,外资花旗集团报告指,微软资料中心部门是 AMD Instinct MI300X 晶片最大买家,开始为 GPT-4 这类大型语言模型(LLM)工作。AMD 执行长苏姿丰表示,AMD 2024 年 AI 晶片销售金额预估达 35 亿美元,高于 20 亿美元预测。

AMD 没有公开 Instinct MI300X 定价,但知情人士透露,每片内建 Instinct MI300X 晶片的运算卡售价约 1.5 万美元,相较竞争对手辉达 (NVIDIA) 同等级产品较经济实惠。辉达 H100 PCIe 80GB HBM2E 版售价约 3 万至 4 万美元,甚至更高。性能更强 H100 SXM5 80GB HBM3 版定价更高。

AMD Instinct MI300X 采小晶片架构,混用 5 和 6 奈米制程,电晶体数量达 1,530 亿个,第四代 Infinity Fabric 解决方案,共 28 个模组晶片,包括 8 个 HBM 和 4 个计算晶片,每个计算晶片有 2 个基于 CDNA 3 架构的预算单元,共计 80 个计算单元。

这也代表整个晶片有 320 个运算单元和 20,480 个串流处理器。出于良率考虑,AMD 削减部分运算单元,实际使用数量为 304 个和 19,456 个串流处理器。HBM3 容量达 192GB,提供 5.3TB/s 记忆体频宽和 896GB/s 的 Infinity Fabric 频宽。

AMD 性能测试,Instinct MI300X 表现优于市面 Nvidia H100 80GB,甚至可能对即将上市的 H200 141GB 构成威胁。除传出微软 Instinct MI300X 最大买家外,Meta 也采购大量 AMD Instinct MI300 系列产品,LaminiAI 则是首家公开使用 MI300X 的公司。

(首图来源:AMD)

   特别声明    本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。