NVIDIA、微软联手打造巨型云端超级电脑,加速生成式 AI 进展

NVIDIA、微软联手打造巨型云端超级电脑,加速生成式 AI 进展

NVIDIA 今日宣布与微软展开多年合作计划,将共同打造全球最强大人工智慧AI)超级电脑之一,结合 Microsoft Azure 先进超级运算基础设施,以及 NVIDIA 的 GPU、网络技术和完整的 AI 软件堆叠支援这台 AI 超级电脑,协助企业训练、部署和扩展 AI,包括最先进大型模型。

NVIDIA 表示,本次合作运用 Azure 具扩充性的虚拟机器执行个体,推动研究并进一步加快推动生成式 AI(generative AI)进展。生成式 AI 是迅速崛起的 AI 领域,像是 Megatron Turing NLG 530B 这类基础模型,是无监督、自我学习演算法的基础,创造新文字、程式码、数位影像、影片或音讯。

Microsoft Azure 针对 AI 最佳化调整的虚拟机器执行个体建构于 NVIDIA 最先进的资料中心 GPU,是第一个采用 NVIDIA Quantum-2 400Gb/s InfiniBand 网络技术的公有云执行个体。客户可在单一丛集部署数千个 GPU,训练最庞大的大型语言模型、大规模建立最复杂的推荐系统,以及大规模运用产生式 AI。

不仅如此,双方亦合作将微软的 DeepSpeed 深度学习最佳化软件调整到最佳状态。微软的 DeepSpeed 将利用 NVIDIA H100 Transformer 引擎加快执行采用 Transformer 模型的速度,用于大型语言模型、生成式 AI 和电脑程式码编写等广泛应用。这项技术将 8 位元浮点精度功能用于 DeepSpeed,以大幅加快采用 Transformer 模型的 AI 运算速度,传输量是 16 位元运算的两倍。

NVIDIA 企业运算部门副总裁 Manuvir Das 表示,AI 技术进步加上产业采用脚步不断加快,基础模型的突破性发展促进研究潮、培育更多新创公司,并开发新企业应用。双方合作将为研究人员及企业提供最先进 AI 基础设施和软件。

(首图来源:NVIDIA)

   特别声明    本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。