辉达 AI GPU 运算外包盛行!大摩点名世芯、技嘉、纬创、联想、台达电

辉达 AI GPU 运算外包盛行!大摩点名世芯、技嘉、纬创、联想、台达电

大摩最新报告观察到 AI GPU 租赁服务盛行,帮助企业快速导入 AI 营运,目前主流是 H100,再来有 Gaudi2 及 MI300X,其中最近有观察到 Gaudi 有在加单,反应在 CoWoS-S 增 3~4K 晶圆,因此点名点名世芯、技嘉、纬创、联想、台达电将受惠运算外包。

大摩表示,AI 运算租赁业务模式日趋成熟,AI GPU 产品种类繁多,NVIDIA GTC 大会为中国台湾下游供应链创造新的机会,首先 GPU 租赁业务模式协助企业快速建置 AI 工作负载,目前以 NVIDIA H100 为主流解决方案,而英特尔的 Habana Guadi 2 和 AMD 的 MI300X 同样可供出租。

大摩指出,大型企业今年正在增加其 AI 资本支出组合,但微软除外,因为微软在 2023 年已经投入大量资金,同时观察到台积电 InFO-LSI 产能的需求显着增长,该产能主要用在苹果的 M2 Ultra,而 5 奈米 M2 Ultra 或未来 3 奈米 M3 Ultra 的需求,可能来自苹果的内部 AI 服务器。

大摩认为,英特尔 Habana 正在获得更多 CoWoS 分配,预计除 2024 年原定的 10k 外,为英特尔的 Habana 额外供应 3~4k 的 CoWoS-S 晶圆,预计将产生 4 万颗 Gaudi3 晶片,有助于世芯在 2025 年的 IC 设计服务营收成长。

AI 下游供应链方面,大摩表示,这次 GTC 主题演讲中,辉达重点介绍纬创如何利用 Omniverse Cloud 构建其新 DGX/HGX 工厂的数位孪生平台,并展示技嘉配备 H100 8-GPU 设计的机架解决方案,还将有基于采用 HGX、超级晶片和 PCIe 卡外形尺寸的 Blackwell GPU。

IDC 预测 2026 年 AI PC 渗透率将达到 50~60%,但联想认为有更大的潜力,看好 AI PC 的 ASP(平均销售价格)起价将至少为 1,000 美元,接着在 2~3 个季度后降至 800 美元,因为 AI PC 在 2026 年之前不会扩散到 400~500 美元的细分市场。

大摩分享,台达电共享 GB200 功率,从 1,700W 翻倍至 3,300W,推升 GB200 服务器的每台交流服务器电源成本增加至 7,200 美元,而 H100 的成本为 2,400 美元,至于 AI GPU 机架需要 250KW,而 CPU 机架则需要 30KW。

大摩强调,GPU 军备竞赛最大的担忧是大型企业或云端供应商如何利用这种庞大的运算能力,但发现不同的 AI 新创,如 CoreWeave 已开始进行 GPU 租赁业务,以协助企业拥有 GPU 以加速工作负载,目前看到 NVIDIA H100 是不同供应商的主流租赁解决方案。

(首图来源:NVIDIA Blackwell)

延伸阅读:

  • 实现智慧制造!纬创以 NVIDIA Omniverse 与 Modulus 构建数位孪生平台
  • 支援 NVIDIA 两大新品!广达旗下云达 GTC 秀自研 MGX 架构系统
  • 和硕参与 NVIDIA GTC 大会!秀加速运算、生成式 AI 方案

   特别声明    本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。