Bing 对话式搜寻 AI 运算急需 GPU，微软向甲骨文租用算力

▼

微软（Microsoft）需要更多运算资源来满足爆炸性成长的 AI 服务，而甲骨文（Oracle）恰巧有数以万计的 NVIDIA A100 和 H100 GPU 可供租用，促成双方合作。

甲骨文 7 日宣布与微软达成多年协议，微软使用 Oracle Cloud Infrastructure（OCI）AI 基础设施以及 Microsoft Azure AI 基础结构来推理 AI 模型。透过适用于 Microsoft Azure 的 Oracle Interconnect，微软能够使用 Azure Kubernetes Service（AKS）等服务大规模编排 OCI 运算，以满足 Bing 对话式搜寻不断成长的需求

“我们与甲骨文合作，Oracle Cloud Infrastructure 和 Microsoft Azure AI 基础结构的使用，将扩大客户造访范围并提升搜寻速度”，微软搜寻和人工智慧全球行销负责人 Divya Kumar 透过声明表示。

在导入 OpenAI 的 AI 技术后，你可对 Bing Chat 输入文字提示、问题以及查询，它会尝试产出文字内容、寻找资讯，甚至产生各种风格的图片。Bing Chat 背后支援的大型语言模型不仅需要大量 GPU 丛集进行训练，还需要大规模推理，而甲骨文的 GPU 丛集有助于完成这些推理工作。

Oracle 宣称 OCI Supercluster 可扩展至 4,096 个 OCI 运算裸机执行个体，配备 32,768 个 A100 GPU 或 16,384 个 H100 GPU，以及 PB 级高效能丛集档案系统储存，以高效处理大规模的应用程式。

值得一提的是，根据网站流量分析工具 StatCounter 数据显示，2023 年 10 月，Bing 在所有平台的全球搜寻市占率为 3.1%，远远不及 Google 市占率 91.6%。进一步来看，电脑上的 Bing 搜寻市占率来到 9%，平板电脑则有 4.6%。

从流量数据似乎看不出 Bing 不断成长的需求，但微软 AI 需求显然越来越大，以至于软件巨擘要将 Bing 搜寻引擎所用的一些机器学习模型转移到甲骨文的 GPU 丛集上。

• Bing Chat so hungry for GPUs, Microsoft will rent them from Oracle

（首图来源：Oracle News APAC）

▼

   特别声明    本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。