Oracle 和 NVIDIA 将在全球范围内提供主权 AI

作者 英伟达中国
  • Oracle 和 NVIDIA 合作,提供加速计算和生成式 AI 服务,建立数字主权并管理专有的国家数据和个人数据
  • Oracle 在 OCI Supercluster、OCI Compute 和 OCI 平台上的 NVIDIA DGX Cloud 上采用 NVIDIA Grace Blackwell

GTC —— Oracle 和 NVIDIA 宣布扩大合作,为全球客户提供主权 AI 解决方案。Oracle 的分布式云AI 基础设施生成式 AI 服务与 NVIDIA 的加速计算和生成式 AI 软件相结合,支持政府和企业部署 AI 工厂。

这些 AI 工厂可以在本地,也可以在一个国家或机构的安全场所内运行云服务,并具有一系列操作控制功能,从而支持实现多样化和促进经济增长的主权目标。

Oracle 首席执行官 Safra Catz 表示:“随着 AI 重塑全球商业、产业和政策,各个国家和机构都需要加强数字主权,以保护最有价值的数据。我们与 NVIDIA 持续合作并且拥有在本地快速部署云区域的独特能力,这将确保社会能够在不危及其安全的情况下利用 AI。”

NVIDIA 创始人兼首席执行官黄仁勋表示:“在这个由生成式 AI 驱动创新的时代,数据主权在文化和经济上都是当务之急。Oracle 的集成云应用和基础设施与 NVIDIA 加速计算和生成式 AI 服务相结合,能够实现国家和地区控制自己命运所需的灵活性和安全性。”

帮助客户实现数据主权的一站式解决方案

NVIDIA 的全栈 AI 平台与 Oracle 的 Enterprise AI(可部署在 OCI 专用区域、Oracle Alloy、Oracle 欧盟主权云和 Oracle 政府云)相结合,为客户提供了先进的 AI 解决方案,可以更好地控制运营、位置和安全性,以帮助满足数字主权要求。

全球各国正越来越多地投资于能够支持其文化和经济雄心的 AI 基础设施。在 26 个国家的 66 个云区域,客户可以跨基础设施和应用程序访问 100 多个云和 AI 服务,以支持 IT 迁移、现代化和创新。

两家公司的组合产品可以通过公共云部署,也可以部署在特定位置的客户数据中心,并具有灵活的操作控制。Oracle 是唯一一家能够在本地和任何地方提供 AI 和完整云服务的超大规模云服务商。OCI 服务和定价在各种部署中是一致的,以简化规划、移植和管理。

Oracle 的云服务利用了一系列 NVIDIA 堆栈,包括 NVIDIA 加速计算基础设施和 NVIDIA AI Enterprise 软件平台(包括新发布的 NVIDIA NIM™ 推理微服务,其在 NVIDIA 推理软件的基础上开发,例如 NVIDIA TensorRT™、NVIDIA TensorRT-LLM 和 NVIDIA Triton 推理服务器)。

主权 AI 领域的先驱

财富管理技术的领导者 Avaloq 选择了 OCI 专用区域(Oracle Dedicated Region),将一个完整的 OCI 云区域纳入自己的数据中心。

Avaloq 首席技术官 Martin Büchi 表示:“OCI 专用区域符合我们的宗旨,即在使用最新云基础设施的同时,最大限度地控制数据驻留。这支持我们继续推动银行和财富管理公司的数字化转型。”

新西兰领先的信息管理服务提供商 TEAM IM 选择 Oracle Alloy 来构建该国第一个本地部署和运营的超大型云,即 TEAM Cloud。

TEAM IM 首席执行官 Ian Rogers 表示:“新西兰的组织日益渴望利用云的强大力量,同时通过利用独特的超大规模云解决方案来保护本国境内数据的完整性。借助 Oracle Alloy 以及有望将 NVIDIA AI 平台集成到我们的云服务中的可能性,我们已经能够作为一家云服务提供商,来帮助公共部门、商业和毛利人组织驾驭复杂的数字环境,并优化数字化转型。”

阿联酋 e& 集团的电信部门 e& 正在与 Oracle 合作以增强 AI 能力,并打算在其 OCI 专用区域内部署 NVIDIA H100 Tensor Core GPU 集群。

阿联酋 e& 首席技术和信息官 Khalid Murshed 表示:“OCI 将使我们能够在自己的 OCI 专用区域内部署 NVIDIA H100 GPU 集群,并托管在阿联酋 e& 的数据中心内。这种类型的本地化将使我们能够加速阿联酋各地的 AI 创新,并帮助我们大规模开发新一代 AI 应用和用例。这契合阿联酋 e& 的转型努力,即开拓创新和塑造技术的未来。我们专注于推动 AI 的卓越发展,以提供无与伦比的客户体验。”

NVIDIA Grace Blackwell 助力 OCI Supercluster 和 OCI Compute

为了帮助客户满足日益增长的 AI 模型需求,Oracle 计划在 OCI SuperclusterOCI Compute 上充分利用在 GTC 上发布的最新 NVIDIA Grace Blackwell 计算平台。通过使用新的 OCI Compute 裸机实例、超低延迟 RDMA 网络和高性能存储,OCI Supercluster 将大幅提速。OCI Compute 将采用 NVIDIA GB200 Grace Blackwell 超级芯片和 NVIDIA Blackwell B200 Tensor Core GPU。

NVIDIA GB200 Grace™ Blackwell 超级芯片将为计算的新时代提供动力。与上一代 GPU 相比,GB200 提供了高达 30 倍的实时大语言模型(LLM)推理速度,总体拥有成本和能耗均最低降至其 1/25,为 AI 训练、数据处理以及工程设计和模拟提供动力。NVIDIA Blackwell B200 Tensor Core GPU 专为严苛的 AI、数据分析和高性能计算(HPC)工作负载而设计。

NVIDIA NIM和CUDA-X™ 微服务,包括用于检索增强生成(RAG)推理部署的 NVIDIA NeMo Retriever,也将帮助 OCI 客户使用自己的数据来提升生成式 AI 助手和其他生产力工具的洞察力和准确性。

NVIDIA Grace Blackwell 登陆 OCI 上的 DGX Cloud

为了满足客户对日益复杂的 AI 模型越来越高的需求,双方公司正在把 NVIDIA Grace Blackwell 添加到 OCI 上的 NVIDIA DGX™ Cloud中。客户将能够通过这个共同设计的超算服务,访问基于 GB200 NVL72 的新实例,该服务专为万亿参数大语言模型时代的节能训练和推理而设计。

此次全面的 DGX Cloud 集群扩建将包括 2 万多个 GB200 加速器和 NVIDIA CX8 InfiniBand 网络,提供高度可扩展、高性能的云基础设施。该集群将由 72 个 Blackwell GPU NVL72 和 36 个 Grace CPU 组成,由第五代 NVLink™ 连接起来。

可用性

Oracle 和 NVIDIA 的主权 AI 解决方案即日起可用。更多信息,请访问 Oracle 的主权 AI 网页。

其它资源