戴尔推生成式 AI 开放生态系统,支援 AMD 新加速器
▼
生成式 AI 是近十年最受瞩目的创新加速器,78% 的 IT 决策者表示期待生成式 AI 在企业中发挥潜力,将其视为提高生产力、简化流程及节省成本的方式。戴尔科技集团表示,善用此技术对于身处AI资源网的企业来说非常重要,有助于在竞争激烈的环境中占有一席之地。
戴尔携手AMD扩大Dell生成式AI解决方案产品组合,持续加速推动进阶工作负载,为企业提供更丰富的选择,并推进生成式AI进程。此新技术展现了开放生态系统和硅多样性的关键角色,为客户提供简单、可信任的客制化解决方案,将AI导入数据中;然而,因应激增的资料量及善用资料,为现今AI领域的核心问题。
戴尔指出,Dell PowerEdge XE9680为公司至今增长速度最快的解决方案,支援即将推出的AMD Instinct MI300X加速器,提供客户更多AI效能相关选择。其搭载AMD Instinct MI300X,透过高效能解锁企业数据价值,并运用客制化大语言模型(LLM)于产业中脱颖而出。搭载8个MI300X GPU,每个GPU皆配备192GB的5.3 TB/s高频宽记忆体(HBM3),每个服务器都有一致的HBM3容量达1.5 TB,以及逾21 petaflops的FP16算力峰值,让生成式AI被企业普及使用,协助训练更大的模型、减少数据中心占地面积、降低总体拥有成本,并获得竞争优势。
戴尔并指出,Dell PowerEdge XE9680不仅效能强大,其安全与简易性更为同级中最出色。借由Dell Open Manage Enterprise软件简化和加速生成式AI基础架构的部署,并透过CloudIQ软件达到智慧自动化,其更整合网络复原功能和一系列Zero Trust提升安全性。
Dell PowerEdge XE9680是借由以8个AMD Instinct MI300X加速器运作的AMD Instinct Infinity平台,实现近线性的规模扩充与低延迟分散式的生成式AI训练及推论。借由横跨PowerEdge服务器丛集的全域记忆体互联(xGMI),并透过乙太网络为基础的AI结构连结MI300X GPU,使用经戴尔验证的GPU结构和Dell PowerSwitch Z9664F-ON。
此外,戴尔亦宣布生成式AI解决方案的进一步计划,全新Dell Validated Design for Generative AI with AMD协助企业更易部署可信任的生成式AI。此款Dell Validated Design for Generative AI with AMD ROCm的AI架构将于2024年上市,拓展Dell生成式AI解决方案生态系,并将加入开源大语言模型。AMD ROCm可做为AMD Instinct加速器的开源驱动程式堆叠、开发工具组及API。透过Dell Validated Designs for Generative AI将能更简单地客制可信任的生成式AI平台,消弭整合、效能和规模等考量因素的不确定性。
身为超级乙太网联盟(UEC)一员,戴尔致力提倡基于标准的网络。戴尔表示,公司拥有独特优势,可在生成式AI解决方案(运算、结构和储存)中运用开放式方法充分发挥潜力。
(本文由 MoneyDJ新闻 授权转载;首图来源:戴尔)
▼
特别声明 本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。