生成式 AI 大爆发,NVIDIA GPU 恐供不应求
▼
微软 Bing 搜寻引擎整合 ChatGPT,加上其他生成式 AI 工具的需求攀升,都相当依赖人工智慧处理能力,正是 NVIDIA GPU 优势所在。当科技公司利用 NVIDIA GPU 满足增长的 AI 需求,市场恐怕又要面临 GPU 供货短缺问题,尤其又会先挤压游戏玩家需求。
NVIDIA GPU 能高效运算,支援 AI 模型用 GPU 运算的 CUDA(Compute Unified Device Architecture,统一计算架构),因此广泛应用于深度学习领域。FierceElectronics 网站报道,ChatGPT 初期在 1 万个 NVIDIA GPU 训练,自从获得大众关注后,系统不堪负荷,无法满足庞大用户需求。故 OpenAI 推出全新 ChatGPT Plus 订阅服务,不仅能让付费用户尖峰时段优先造访 ChatGPT,且回应时间更短,并能先使用最新功能。
产业分析师估计,目前 ChatGPT 模型在约 25,000 个 NVIDIA GPU 训练,比初期测试 1 万个 NVIDIA GPU 高许多。
微软和 Google 双双宣布将类似 ChatGPT 的 LLM(对话式大型语言模型)整合至自家搜寻引擎。如 Google 要将 AI 模型整合至搜寻结果,估计需要 512,820 台 A100 HGX 服务器及 4,102,568 个 A100 GPU。光服务器和网络成本,资本支出就高达 1,000 亿美元(约台币 3 兆元)左右。
生成式 AI 大爆发对 NVIDIA 来说是利多消息,但对消费市场尤其游戏玩家,恐怕不算好消息。NVIDIA 有可能优先供货给生成式 AI 的科技公司,排挤游戏玩家需求。今年第一季因农历新年使游戏显卡供应受限,尽管库存问题仍在,但可能为已短缺的高阶 GPU 增加供货问题。
高阶 GPU 提供 AI 功能,使 NVIDIA 有利可图,可能为了满足不断增长的生成式 AI 而有供货短缺问题。NVIDIA 如何因应 AI 领域庞大需求有待观察,而 2 月 22 日其将公布 2023 财年第四季财报,届时有望透露更多未来营运展望。
- NVIDIA GPU Demand To Exceed Supply As Green Team Bets On ChatGPT, Thousands of AI Chips Expected To be Incorporated By Tech Giants
(首图来源:shutterstock)
▼
特别声明 本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。