高通 MWC 发表模型库 AI Hub,大秀手机、PC LMM 生成技术

高通 MWC 发表模型库 AI Hub,大秀手机、PC LMM 生成技术

高通在巴塞隆纳世界行动通讯大会(MWC Barcelona)发表最新的装置上 AI、智慧运算和各种无线连接产品,从全新 Qualcomm AI Hub 到一系列支援 AI 的商用装置,如新一代 PC、智慧型手机、软件定义汽车、XR装置、物联网等领域,实现大规模装置上 AI 商业化,使智慧运算无处不在。

Qualcomm AI Hub

首先,高通推出 Qualcomm AI Hub 提供全新模型库,可在搭载 Snapdragon 和高通平台的装置上实现无缝部署。这个模型库提供包括 Whisper、ControlNetStable Diffusion 和 Baichuan 7B 在内、超过 75 个热门 AI 模型,提供开发人员使用。

高通 MWC 发表模型库 AI Hub,大秀手机、PC LMM 生成技术 AI与大数据 图2张

开发人员可将这些模型无缝整合至其应用程式中,缩短上市时间,并充分发挥实现装置上AI所带来的优势,包括即时性、可靠性、隐私性、个人化和节省成本等。高通指出,透过高通 AI 引擎(NPU、CPU 和 GPU)中所有核心的硬件加速,能使推论速度快 4 倍。

目前这些模型已经在 Qualcomm AI Hub、GitHub 和Hugging Face 上提供。开发人员只需透过在搭载高通平台的云端托管装置上的几行程式码,就能自行运行这些模型,Qualcomm AI Hub 也会持续导入新模型加入模型库,并即将支援其他平台和作业系统。

Qualcomm AI Research 用于 Android 手机和 Windows PC

Qualcomm AI Research 也首次在 Android 智慧型手机上运行,展现大型语言和视觉助理(LLaVA)模型功能,这是一款具超过 70 亿个参数的大型多模态模型(LMM),可接受文字、图像等多种类型资料输入,并能与 AI 助理生成关于图像的多轮对话。

高通 MWC 发表模型库 AI Hub,大秀手机、PC LMM 生成技术 AI与大数据 图3张

Qualcomm AI Research 将首次展示在 Android 手机上的低秩调整(LoRA)。使用 LoRA 运行 Stable Diffusion 让使用者可以根据个人或艺术偏好创造出高品质的客制化图像。

LoRA 可减少 AI 模型的可训练参数数量,实现更优秀的效率、可扩充性,还可运用在大型语言模型等各种客制化的 AI 模型,打造量身定制的个人助理、改善语言翻译等更多应用。

在 Windows PC 部分,Qualcomm AI Research 也会运作超过 70 亿个参数的 LMM,此模型可以接受文字和音讯输入(如音乐、交通声音等),然后生成有关此段音讯的多轮对话。

高通 MWC 发表模型库 AI Hub,大秀手机、PC LMM 生成技术 AI与大数据 图4张

AI 与手机、PC、车用、IoT 结合

此外,高通也会在即将推出的智慧型手机、Windows PC、汽车和穿戴式装置中的生成式 AI 功能。首先是搭载 Snapdragon 8 Gen 3 行动平台的 AI 智慧手机,包括荣耀 Magic6 Pro、OPPO X7 Ultra,以及小米14 Pro,大秀 AI 生成的图像扩张(小米)、AI驱动的影片创作与日历创建(荣耀)、和图像物件消除(OPPO)。

PC 部分则展示 Snapdragon X Elite 及其所配备每秒 45 兆次的 NPU,透过热门的免费图像编辑器 GIMP 和 Stable Diffusion 外挂程式,展示只要以文字输入想要的图像,生成式 AI 就能在 7 秒内创造出图像。

汽车部分,高通也透过 Snapdragon 数位底盘平台展示传统和生成式 AI 能力,为驾驶和乘客提供更强大、更有效、更具隐私、更安全和个人化的体验;消费者 IoT 将展示在 Snapdragon 平台运行的 Humane 的 AI Pin,让使用者能够将 AI 以对话式、无萤幕的全新型态随身携带到任何地方。

(首图来源:高通)

延伸阅读:

  • Micro LED + AR 技术!联想秀 17.3 吋无框透明 Micro LED 概念笔电
  • 2024 仍是过渡年!外资评级富采中立、目标价 48.3 元

   特别声明    本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。