Google 与 NVIDIA 藉投资新创公司期减少 AI 晶片短缺压力

▼

外媒报道，新创 CentML Inc. 致力提高人工智慧模型效能，宣布完成 2,700 万美元融资。投资方由 Google 母公司 Alphabet Inc. 旗下 Gradient Ventures 新创基金领投，辉达、德勤创投公司 (Deloitte Ventures)、汤森路透创投公司 (Thomson Reuters Ventures) 和积极创投公司 (Radical Ventures ) 跟投。

CentML 由多伦多大学人工智慧研究人员 2022 年创立，主要开发开放原始码工具 Hidet，提高人工智慧模型推理效能，降低运行成本。CentML 已开始进行第二个开放原始码专案，专注加速人工智慧训练。

CentML 表示，Hidet 是编译器，或说允许开发人员将原始码转换为功能程式的工具，针对处理神经网络代码最佳化。建构 AI 模型时，Hidet 可再最佳化，以帮助提高模型的推理效能。

因工具加速神经网络使用“算子融合”技术最佳化程式码。算子是人工智慧模型组件，除了其他任务，还负责决定人工智慧模型的哪些人工神经元如何参与订定计算任务。Hidet 可将多个运算子“融合”到单一程式码元件，透过减少将资料在记忆体的移动需求提高效能。

CentML 强调，工具将编译的 AI 打包到所谓 CUDA 核心。这些程式码片段经过最佳化，可在 Nvidia 的 GPU 运行。CUDA 核心主要特点是分布大量 GPU 核心，提高效能，且软件可加速人工智慧模型，而不会降低准确性，或要求开发人员手动更改程式码。先前计划使 Meta Platform Inc. 开源 Llama 2 模型运行速度提高三倍。CentML 也指一些用户已达成更大效能改进。

除了加速处理时间，人工智慧模型加速还可降低基础设施成本。如果神经网络的效能提高一倍，它就可使用以前一半 GPU 以达和以前相同速度处理资料量，代表着企业必须为人工智慧训练购买的晶片数量减少，因应市场供应不足问题。

除了 Hidet，CentML 还提供另一种名为 DeepView 的开放原始码工具，允许开发人员监控人工智慧模型训练，并找到加速过程的方法。DeepView 目的在最佳化使用 PyTorch 人工智慧开发框架建构的神经网络。

Nvidia CUDA 和编译器软件总监 Vinod Grover 表示，生成式人工智慧火红为开发人员、研究人员和科学家创造新基础，寻求利用加速运算达成一系列功能。CentML 致力以最有效的方式最佳化 GPU 人工智慧和语言训练模型，有助这些人创造更快更轻松的体验。

CentM L计划将融资投资产品开发和研究计划。目前有 30 名员工，将雇用更多员工支持发展。

(首图来源：shutterstock)

▼

   特别声明    本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。