高通助攻 Meta Llama 2 AI 模型,可于没连网地区、飞航模式运行

高通助攻 Meta Llama 2 AI 模型,可于没连网地区、飞航模式运行

高通今日宣布和 Meta 携手,致力于最佳化 MetaLlama 2 大型语言模型直接在装置上的执行,不再只能依赖云端服务运作。

高通强调,与仅使用基于云端的 AI 部署和服务相比,装置 AI 部署能协助开发人员以显着降低的成本,提升使用者隐私、处理安全偏好、强化应用程式可靠性并实现个人化体验。

高通计划实现基于 Llama 2 装置 AI 部署,以支援打造令人期待的全新 AI 应用,让客户、合作伙伴和开发人员能建构如虚拟智慧助理、生产力应用程式、内容创造工具、娱乐等使用案例。这些搭载 Snapdragon 的全新装置 AI 体验,可在没有连网的地区、甚至是飞航模式运行。

此外,高通计划明年开始在搭载 Snapdragon 平台的装置支援基于 Llama 2 的 AI 部署,包括旗舰智慧手机和 PC,让开发人员即日起可使用高通 AI 叠层,针对装置 AI 进行应用最佳化。高通 AI 叠层是一套可在 Snapdragon 平台更有效处理 AI 的专用工具,即使轻薄小巧装置也支援装置 AI。

高通资深副总裁暨技术、规划和边缘解决方案业务总经理 Durga Malladi 表示,生成式 AI 导入装置,将为各种规模的开发人员降低入门的门槛。为了将生成式 AI有效地规模化扩展至主流市场,AI 需要同时能在云端与如智慧型手机、笔记型电脑、汽车和物联网装置等边缘装置运行。

(首图来源:AI资源网)

延伸阅读:

  • Meta 开源大型语言模型 Llama 2,结盟微软、高通对抗 GPT-4
  • 力积电 Q2 每股赚 0.15 元!总座:缺长期需求讯号,下半年毛利率恐跌 1%~2%

   特别声明    本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。