台达电传拿下辉达GB200服务器电源订单!为何获黄仁勋青睐?一文看懂台达关键技术
▼
由于AI服务器带动高瓦数电源供应器与散热需求,电源大厂台达电今年是辉达(Nvdia)GTC大会唯一受邀的电源与散热管理解决方案提供者, 市场更传出台达电通吃辉达Blackwell架构系列B100、B200、GB200服务器电源订单,今年来自AI服务器订单将呈现爆炸性成长 。
台达透过 整合电源 、 散热 及 被动元件 三大关键零组件,提供从电网到晶片一系列电源解决整合方案。
在台达电的摊位上,展示的是ORV3 AI服务器基础设施解决方案,包括效率达97.5%的电源供应器;及协助GPU运行的一系列关键产品,包括DC/DC转换器、功率电感(Power choke)和3D Vapor Chamber散热解决方案等;并展示旗下生产线运用NVIDIA Omniverse开发的数位孪生平台,提升智慧制造的能力。
台达如何抢攻AI电源商机,以下是《AI资源网》2023年11月的专访报道:
台达电源及零组件事业范畴执行副总裁史文景(右)赠送辉达共同创办人暨执行长黄仁勋台达旗下Innergie、辉达联名的万用充电器礼包,黄仁勋也在台达支援GPU的电源产品展示架上签名留念。
图/ 台达
生成式人工智慧(AI)需要庞大的算力,带动服务器晶片的耗电功率提升,对电源供应器厂商来说是新的商机。在全球服务器电源拥有5成市占率的台达电,主要供应AI服务器的电源模组,台达电源及系统事业群总经理陈盈源直言:“ AI的订单来得又急又快,被订单追着跑 。”目前台达有德国、泰国、上海与中国台湾团队在做AI电源相关产品,投注大量资源。
由于AI算力的需求攀升,使得晶片耗电功率也不断升级,一台AI服务器需要2颗CPU与4至8颗的GPU,GPU又是CPU功率的2至4倍,整体需要更多电力。为有效供电减少传输过程损耗,服务器电压输出须从原本12伏特升高到48伏特,之后再经过层层降压,在最后一段达到CPU或GPU等晶片需要的工作电压,这是新的机会。
台达电供电模式|水平供电改背后供电,稳住GPU“最后一厘”
陈盈源说明,过去CPU最后一段的电力供给,是透过板上的电压模组来供电,由主机板厂自行设计就结束。如今AI带动大电流,主板上的电源管理IC没办法控制,需要独立设计电源模组,“在GPU最后一段的DC-DC(直流对直流)电源由台达来设计,电源模组化对台达来说是新的商机。”
AI服务器除了瞬间需要大电流,响应速度也要够快,因此距离的远近对供电是一个阻碍,供电模式会从原本水平供电,走向“背后供电”。白话来说,原本的电源模组围绕在GPU晶片的周围,为了缩短距离,电源模组改放到晶片正下方来供电,距离缩短成仅是主机板的厚度,从数十毫米缩短至1、2毫米的距离。
在GPU最后一段的DC-DC(直流对直流)电源由台达来设计,电源模组化对台达来说是新的商机。
图/ 翁挺耀摄
为何缩短距离很重要?陈盈源用“水塔理论”来比喻GPU供电:把水龙头打开的瞬间会有很多水跑出来,但若水塔的水位太低,可能引发停水危机;套用在供电设计,一方面须维持大电流,同时兼顾稳定电压,才不会造成服务器当机。
现在台达与客户的合作关系更加紧密,当客户规画设计IC晶片时就跟台达谈规格,和客户做共同开发,确保IC晶片做出来后,电源解决方案也准备好。
不只是满足AI服务器产品的需求,台达也思考如何透过AI加持电源产品。像是AI可做到预防维修,机台故障提前预警通知,并建议维修对策,借此提高产品的可靠度,有助缩短停机时间。陈盈源表示,很快就会把AI功能导入到台达的产品线。
台达电源及系统事业群总经理陈盈源进入台达25年,今年1月升任事业群总经理,他乐观看待AI带来商机与技术挑战。
图/ 翁挺耀摄
先进封装需求猛,拼晶片电压控制突围
目前AI相关产品占台达服务器电源的营收比重约15%,台达预估2023年服务器电源营收20亿美元,估算AI占3亿美元(约新台币90亿元),未来AI相关营收将逐年提高。
当AI快速发展,台达最大的挑战在于提升电力转换效率。“电源功率变大,但机柜给电源的空间并不会跟着变大,如何在有限的空间里,把数倍的电源放进去,这是一个非常大的挑战。”陈盈源表示,除了台达本身持续提高电源转换效率,零件供应商也要跟上,像是功率半导体、被动元件等策略伙伴共同完成新品研发。
另外,深耕50多年电力电子技术的台达也在研究电源产品如何克服CoWoS(Chip on Wafer on Substrate)先进封装的制程挑战。台积电提出的CoWoS先进封装,是指把数颗晶片封装一起,达到降低功耗、满足AI的需求,这使得台达在最后一段的晶片供电,必须提供多组电压的能力。
图/ AI资源网制作
过去单晶片的封装,一个CPU只要一种工作电压,如今记忆体、CPU集合在同一封装里,当整合愈多的晶片进来,需要的电压种类愈多。举例GPU的电压可能是0.8伏特、记忆体电压可能是1.2伏特,加上每一个晶片需要的电流响应速度不同,电源控制变得更复杂。
陈盈源透露,“现在大晶片厂,不管在开发CPU或GPU都会找台达来开发最后的晶片供电方案,未来的产品都已在规画中。”
台达电
成立: 1971年
董事长: 海英俊
AI关键技术: 提供从电网到晶片的供电解决方案,并针对AI晶片独立设计电源模组
延伸阅读: GB200大单,这9家台厂先拿下!为何获辉达点名?一次盘点关键技术
责任编辑:苏祐萱、谢宗颖
▼
特别声明 本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。