百度、英特尔联手打造新一代 Nervana NNP 晶片,效能提升 3~4 倍

百度、英特尔联手打造新一代 Nervana NNP 晶片,效能提升 3~4 倍

7 月 3 日举行的百度 AI 开发者大会,发表鸿鹄晶片及多台智慧音箱新品,更宣布与华为麒麟合作,智慧小程式也进入新连线。

百度、英特尔联手打造新一代 Nervana NNP 晶片,效能提升 3~4 倍 AI与大数据 图2张

英特尔副总裁兼人工智慧产品事业部总经理 Naveen Rao 出席现场,宣布与百度AI 重磅合作──结合本身专业知识,共同打造用于训练 AI 的 Nervana 神经网络处理器(NNP,Neural Network Processor)。

联手开发强大的 AI 加速器

英特尔表示,这款与百度合作开发的处理器简称 NNP-T,代号为“Spring Crest”;意味着 AI 模型硬件发展进入“新阶段”,因它可加速大规模分散式训练;还为影像辨识最佳化,删去标准的快取阶层(cache hierarchy),晶载记忆体(on-chip memeory)直接由软件管理。

据 VentureBeat 报道,NNP-T 有 24 个计算集群,32GB 的高频宽记忆体(HBM2)和区域 SRAM,因此,即将推出的处理器在 AI 训练方面比同类产品要强最多 10 倍,比英特尔首款 Nervana NNP 晶片 NNP-L 1000(代号 Lake Crest)效能强 3~4 倍(注:2016 年,英特尔收购人工智慧公司 Nervana,2017 年,英特尔推出专为机器学习设计的 Nervana NNP 系列晶片)。

百度、英特尔联手打造新一代 Nervana NNP 晶片,效能提升 3~4 倍 AI与大数据 图3张

英特尔也声明,AI 并非单一工作负载,而是一种广泛、强化所有手机或大型资料中心应用效能的强大能力;然而,不同应用对效能和功耗有不同要求,因此单一 AI 硬件无法满足一切需求。

在 AI 方面,英特尔认为不仅要提供优越的硬件选择,还要透过软件最大化释放硬件效能,帮助用户顺利执行 AI 应用,无论数据多么复杂。而英特尔选择与百度合作,能确保英特尔开发部门始终紧跟用户对训练硬件的最新需求。

Naveen Rao 表示:

未来几年,人工智慧模型的复杂性会激增,对大规模深度学习计算的需求也会激增。英特尔和百度正专注于长达十年的合作,建立全新硬件,支援软件协同设计,这将随着不断变幻的现实情况发展。我们称之为 AI 2.0。

英特尔与百度是长期好伙伴

近年来,英特尔与百度已建立许多基于 AI 应用的解决方案。

百度、英特尔联手打造新一代 Nervana NNP 晶片,效能提升 3~4 倍 AI与大数据 图4张

自 2016 年英特尔就为百度 PaddlePaddle 深度学习框架最佳化 Xeon Scalable processor,今后,NNP-T 最佳化也将专注于 PaddlePaddle 应用,专注于神经网络的分散式训练,以完成其他类别的 AI 应用。

Constellation 研究公司的首席分析师兼副总裁 Holger Mueller 表示:

处理器架构和平台需要最佳化才能发挥作用,无论目前还是即将推出的处理器,这解释了英特尔与百度合作的重要性。

两家公司探讨整合百度 PaddlePaddle 和英特尔 nGraph DNN(Deep Nerual Network)编译器,有了 nGraph 的助力,资料科学家只需编写一次程式码就可让 DNN 模型在各平台有效执行,无需调整其他。

百度也借助英特尔 Optane 资料中心级持久记忆体的高效能,向数百万用户提供个性化行动内容,并透过百度 AI 建议引擎获得更高效的用户体验。

资料安全方面,百度和英特尔去年推出 MesaTEE,是基于英特尔 SGX (Software Guard Extension,软件保护延伸技术)的 FaaS 计算框架;MesaTEE 使金融、自动驾驶和医疗等安全敏感服务能安全于远端平台处理。

今年稍早,百度和英特尔还推出全新硬件产品 BIE-AI-BOX。这款产品融合百度智慧边缘技术,连线镜头进行车内视讯监控和分析。

小结

尽管百度与英特尔长期保持紧密合作,但本次两家公司联手打造 AI 加速处理器也十分重要,因为即便硬件效能再强大,也需要软件不断磨合,才能最大化发挥 AI 的优势。

总而言之,百度与英特尔各取所长,开发和最佳化这款加速处理器,不仅能把大规模神经网络的训练步骤化繁为简,还能一定程度加速 Naveen Rao 所说的 AI 2.0 到来。

(本文由 雷锋网 授权转载;首图来源:英特尔)

延伸阅读:

  • 发表新一代 NNP 晶片外,英特尔 AI 软件和应用更透露其 AI 野心

   特别声明    本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。