耐能智慧推出 KL730 AI 晶片,带动轻量级 GPT 方案大规模应用

耐能智慧推出 KL730 AI 晶片,带动轻量级 GPT 方案大规模应用

耐能智慧 15 日宣布,推出整合了车规级 NPU 和影像讯号处理器(ISP)的 KL730 晶片,将安全而低耗能的 AI 能力赋能到边缘服务器、智慧家居及汽车辅助驾驶系统等各类应用场景中。

耐能智慧表示,KL730 做为耐能最新款晶片,从设计之初就以实现 AI 功能为目的,并更新了多项节能及安全的技术创新。该晶片具备多通道介面,可无缝接入图像、影片、声音和毫米波等各种数位讯号,支持各产业的人工智慧应用开发。

另外,该晶片还解决了目前人工智慧普遍的瓶颈,就是低效能硬件导致的系统高成本。在这个晶片的开发工作中,KL730 在效能方面取得极大的进步,效能比相较于过往耐能的晶片提升了 3 至 4 倍,且比主要产业同等产品提高了 150% 至 200%。

耐能智慧创办人兼执行长刘峻诚表示,运行 AI 功能需要专用 AI 晶片,其体系架构与我们以前了解的晶片完全不同。简单地重新使用相邻技术(如图形处理专用的 GPU 晶片),不能很好地胜任这项工作。KL730 将会是边缘 AI 的革新者。凭藉其前所未有的效率和对 Transformer 等框架的支持,我们正在为各行各业提供强大的 AI 能力,在极具安全性和保护资料隐私的情况下充分发挥人工智慧的潜力。

耐能智慧强调,公司长期专注于边缘 AI,并研发了一系列轻量且可扩展的 AI 晶片,以安全地推动 AI 能力的发展。2021 年,耐能发布了首款支援 Transformer 神经网络架构的边缘 AI 晶片 KL530。而 Transformer 神经网络架构是所有 GPT(Generative Pre-trained Transformer)模型的基础。KL730 晶片进一步丰富该产品系列,提供每秒 0.35 – 4 tera 有效计算能力,扩展了支援最先进的轻量级 GPT 大型语言模型(如 nanoGPT)的能力。

KL730 具有独特的定位,可以改变 AIoT 领域的安全性,进而使用户能够部分或完全离线地在终端运行 GPT 模型。该晶片配合耐能的私有安全边缘 AI 网络 KNEO,让 AI 运行在用户的边缘设备上,从而让他们更好地保护资料隐私。这些应用是全行业的:从企业服务器解决方案到智慧驾驶车辆再到以 AI 驱动的医疗设备,所增加的安全性允许设备之间进行更大的协作,同时保护资料的安全。例如,工程师可以设计新的半导体晶片,而无需与大型云端公司营运的资料中心共用机密数据。

(首图来源:耐能智慧提供)

   特别声明    本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。