Google 打造新一代 TPU v5p 和 AI 超级电脑，加速 Gemini 模型发展

▼

Google 发表全新 Gemini 模型，同步推出该公司功能最强大的 AI 加速器 Cloud TPU v5p 以及新的 AI 超级电脑。

TPU v5p 是目前 Google 功能最强大且最具成本效益的 TPU（Tensor Processing Unit），每个 TPU v5p pod 由多达 8,960 个晶片组成，使用最高频宽的 ICI（inter-chip interconnect，高达 4,800 Gbps/chip）进行互连，确保快速传输速度和最佳性能。与 TPU v4 相比，TPU v5p 具有两倍的每秒浮点运算次数（FLOPS）和三倍的高频宽记忆体（HBM）。

在训练 AI 模型方面，TPU v5p 在大型语言模型训练速度较 TPU v4 高出 2.8 倍。对 TPU v5p 每个 pod 的可用 FLOPS 而言，可扩展性比 TPU v4 高 4 倍，Google 为新款 TPU 挤出更多算力。

▲ TPU v4、v5e、v5p 性能比较。（Source：Google Cloud Blog）

不只如此，Google 推出 Google Cloud 的 AI 超级电脑，有着突破性的超级电脑架构，采用性能最佳化的硬件、开放软件、领先业界的机器学习框架和灵活的 AI 模型整合成一整套系统。随着 Gemini 模型发表，Google 也展示资料中心内搭载 TPU v5p 的 AI 超级电脑，包括 Salesforce 和 Lightricks 等公司已经使用 TPU v5p 的 AI 超级电脑训练模型。

▲ Google 展示资料中心内搭载 TPU v5p 的 AI 超级电脑。

ChatGPT 的推出推动 AI 高速发展，为了持续开发并提供算力，大型科技公司自行研发解决方案，比方说最新的微软 Azure Maia 100、亚马逊 AWS Trainium2，加上 TPU v5p，以最佳化硬件提升处理 AI 工作负载的性能。

TPU 是经过 Google 最佳化调整的 AI 加速器，运用在 Google 搜寻、YouTube、Gmail、Google 地图、Google Play、Android 等采用 AI 技术的产品，新的 Gemini 模型使用 TPU 进行训练和服务。TPU v5p 将能加速 Gemini 发展，帮助开发者和企业客户更快训练大规模的生成式 AI 模型，进而更早推出全新产品和功能给用户。

• Google Announces Its Next-Gen Cloud TPU v5p AI Accelerator Chips & AI Hypercomputer

（首图来源：Google Blog）

延伸阅读：

• 挑战 OpenAI 关键利器终现身！Google 发表 Gemini 模型，Bard、Pixel 8 Pro 率先导入
• Bard 两阶段导入 Gemini，Gemini Pro 模型即日起支援 Bard 英文版
• Pixel 8 Pro 升级内建 Gemini 模型，增添两个 AI 新功能、离线也能用

▼

   特别声明    本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。