AI · 2023-11-08

微软将使用 Oracle 的 OCI Supercluster 进行 Bing 对话式搜索

为了扩展人工智能合作伙伴关系,甲骨文和微软签署了一项多年期协议,以支持最近向公众开放的  Bing 对话式搜索不断增长的需求。

作为协议的一部分,微软将使用自己的 Azure 人工智能基础设施与 Oracle 云基础设施 (OCI) Supercluster 相结合,后者是 3 月份发布的Nvidia GPU 支持的超级计算训练和推理服务。

OCI Supercluster 服务是Oracle 生成式 AI 战略的第一层,针对 Cohere 或 Hugging Face 等公司,这些公司致力于开发 大型语言模型 (LLM) 以支持其最终用户。

两家公司在一份联合声明中表示,OCI Supercluster 和 Azure AI 的结合将使微软能够对人工智能模型进行推理,并不断优化这些模型,为 Bing 每天的对话式搜索提供支持。

推理是人工智能系统根据其拥有的信息和知识得出结论或做出预测的过程。

两家公司表示:“利用适用 于 Microsoft Azure 的 Oracle Interconnect,微软能够使用Azure Kubernetes Service (AKS) 等托管服务来大规模协调 OCI 计算,以支持对 Bing 对话式搜索不断增长的需求。”并补充说,Bing 对话式搜索需要强大的计算基础设施集群,支持对 Bing 推理模型进行的搜索结果进行评估和分析。

根据 Oracle 和 Microsoft 的说法,推理模型通常需要数千个计算和存储实例以及数万个 GPU,这些 GPU 可以作为单个超级计算机在多太比特网络上并行运行。   

9 月,Oracle 扩大了与 Microsoft 的合作伙伴关系,将其数据库硬件(包括 Oracle Exadata)和软件配置在 Microsoft Azure 数据中心,让客户可以通过 Azure 直接访问在 Oracle 云基础设施 (OCI) 上运行的 Oracle 数据库服务。