辉达 H100 难取代,Naver 应用英特尔 CPU 范围有限?
▼
南韩着名入口搜寻引擎网站 Naver 上周宣布,旗下 Naver Place 店家与餐厅搜寻推荐服务,决定将推论(inference)过程 AI 服务器晶片供应商辉达(Nvidia Corp.)改成英特尔(Intel Corp.),主要是因供货吃紧及涨价。分析人士相信,虽然可行,但应用范围有限,赛局并未出现重大变化。
Seeking Alpha、Investing.com报道,Bernstein由Bokyung Suh带领的分析师团队6日研究报告指出,Naver以英特尔Sapphire Rapids CPU及AI加速器取代辉达H100虽然可行,却非“理想”状态,因训练大型语言模型(LLM)等AI任务成本非常高。
Bernstein指出,截至目前,辉达H100依旧是全世界效能最佳AI晶片,执行推论任务效果比前代A100提升1.5~4.5倍,推论测试结果也优于Google、高通(Qualcomm)、英特尔旗下Habana Labs的AI加速器。
报告称把GPU改换成CPU并非理想选择,因AI任务成本非常高,尤其LLM模型训练方面。即便H100售价贵许多,且面临生产与供给窘境,但“训练”(training)与“推论”的总成本依旧较低。
该证券相信,中长期而言,Naver恐怕无法以英特尔CPU代替GPU训练微调LLM模型。结论是,Naver英特尔合作案虽可行,但应用范围相当窄,或许只能推论用或参数(parameter)调得够低,这样就无法改变赛局(definitely not the game changer yet)。
报告指出,Naver生成式AI LLM模型参数约200B,但Naver Place LLM参数仅占整个模型不到5%,不是训练或微调用途。
辉达6日闻讯上涨1.66%,收457.51美元,创10月16日以来收盘新高;年初迄今飙涨213.06%。辉达预定11月21日美股盘后公布财报。
Barron′s 6日报道,FactSet统计显示,分析师普遍预测辉达今年营收有望成长接近一倍至525亿美元,每股盈余有望成长近三倍。FactSet预测,拜未来几年云端支出双位数成长之赐,辉达五年内每年营收可望成长超过20%,2028年达近1,500亿美元,使每股盈余年成长率逼近30%。
(本文由 MoneyDJ新闻 授权转载;首图来源:Naver)
延伸阅读:
- 成功抢走辉达 GPU 订单!传 Naver AI 服务器改用英特尔 CPU
▼
特别声明 本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。