生成式 AI 大爆发,NVIDIA GPU 恐供不应求

生成式 AI 大爆发,NVIDIA GPU 恐供不应求

微软 Bing 搜寻引擎整合 ChatGPT,加上其他生成式 AI 工具的需求攀升,都相当依赖人工智慧处理能力,正是 NVIDIA GPU 优势所在。当科技公司利用 NVIDIA GPU 满足增长的 AI 需求,市场恐怕又要面临 GPU 供货短缺问题,尤其又会先挤压游戏玩家需求。

NVIDIA GPU 能高效运算,支援 AI 模型用 GPU 运算的 CUDA(Compute Unified Device Architecture,统一计算架构),因此广泛应用于深度学习领域。FierceElectronics 网站报道,ChatGPT 初期在 1 万个 NVIDIA GPU 训练,自从获得大众关注后,系统不堪负荷,无法满足庞大用户需求。故 OpenAI 推出全新 ChatGPT Plus 订阅服务,不仅能让付费用户尖峰时段优先造访 ChatGPT,且回应时间更短,并能先使用最新功能。

产业分析师估计,目前 ChatGPT 模型在约 25,000 个 NVIDIA GPU 训练,比初期测试 1 万个 NVIDIA GPU 高许多。

微软和 Google 双双宣布将类似 ChatGPT 的 LLM(对话式大型语言模型)整合至自家搜寻引擎。如 Google 要将 AI 模型整合至搜寻结果,估计需要 512,820 台 A100 HGX 服务器及 4,102,568 个 A100 GPU。光服务器和网络成本,资本支出就高达 1,000 亿美元(约台币 3 兆元)左右。

生成式 AI 大爆发对 NVIDIA 来说是利多消息,但对消费市场尤其游戏玩家,恐怕不算好消息。NVIDIA 有可能优先供货给生成式 AI 的科技公司,排挤游戏玩家需求。今年第一季因农历新年使游戏显卡供应受限,尽管库存问题仍在,但可能为已短缺的高阶 GPU 增加供货问题。

高阶 GPU 提供 AI 功能,使 NVIDIA 有利可图,可能为了满足不断增长的生成式 AI 而有供货短缺问题。NVIDIA 如何因应 AI 领域庞大需求有待观察,而 2 月 22 日其将公布 2023 财年第四季财报,届时有望透露更多未来营运展望。

  • NVIDIA GPU Demand To Exceed Supply As Green Team Bets On ChatGPT, Thousands of AI Chips Expected To be Incorporated By Tech Giants

(首图来源:shutterstock)

   特别声明    本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。