Oracle 与 NVIDIA 合作助力企业加速代理式 AI 推理

Oracle 数据库与 NVIDIA AI 相集成，使企业能够更轻松、快捷地采用代理式 AI
2025 年 3 月 18 日 作者 英伟达中国

美国加利福尼亚州圣何塞 —— GTC  —— 2025 年 3 月 18 日 —— Oracle 和 NVIDIA 今日宣布，NVIDIA 加速计算和推理软件与 Oracle 的 AI 基础设施以及生成式 AI 服务首次实现集成，以帮助全球企业组织加速创建代理式 AI 应用。

此次 Oracle Cloud Infrastructure (OCI) 与 NVIDIA AI Enterprise 软件平台之间的集成，将使 160 多个 AI 工具和 100 多个 NVIDIA NIM™ 微服务通过 OCI 控制台以原生方式提供。此外，Oracle 和 NVIDIA 正在合作无代码部署 Oracle 和 NVIDIA AI Blueprint，并使用 NVIDIA cuVS 库加速 Oracle Database 23ai 中的 AI 向量搜索。

Oracle 首席执行官 Safra Catz 表示：“Oracle 已成为 AI 训练和推理的首选平台，这种合作关系提高了我们帮助客户实现更大创新和业务成果的能力。NVIDIA 的产品与 OCI 的灵活性、可扩展性、性能和安全性相结合，将加速 AI 的采用，并帮助客户从数据中获得更多价值。”

NVIDIA 创始人兼首席执行官黄仁勋表示：“Oracle 和 NVIDIA 是推理时代的理想合作伙伴，是一家 AI 和加速计算公司与处理全球大部分企业数据的关键公司的合作。我们将携手帮助企业利用代理式 AI 进行创新，为客户和合作伙伴提供出色的服务。”

满足企业 AI 需求的专用解决方案

NVIDIA AI Enterprise 将通过 OCI 控制台以原生方式提供，从而减少部署推理模型所需的时间，使客户能够轻松快速地访问包括 NVIDIA NIM™ 在内的 AI 工具。NVIDIA NIM™ 包含 100 多个经过优化的云原生推理微服务，适用于领先的 AI 模型，包括用于高级 AI 推理的全新 NVIDIA Llama Nemotron 模型系列。

NVIDIA AI Enterprise 将作为使用 OCI Kubernetes Engine 的 OCI 裸金属实例和 Kubernetes 集群的部署镜像提供。OCI 控制台客户可通过 Oracle 获得直接计费和客户支持。

借助 NVIDIA 加速计算和 NVIDIA AI Enterprise 软件平台，企业组织可以在数据中心、公有云或边缘部署 OCI 的 150 余项 AI 和云服务。此产品提供集成式 AI 堆栈，帮助满足数据隐私和低延迟要求。

生物技术公司 Soley Therapeutics 正在部署 OCI AI 基础设施、NVIDIA AI Enterprise 和 NVIDIA Blackwell GPU，以构建其 AI 药物研发平台，通过捕捉、解码和解释细胞语言来预测细胞命运，从而解锁复杂疾病的潜在治疗方法。

“我们相信 AI 在开发解决方案方面的潜力，这些解决方案可以帮助提供治疗癌症和其他复杂疾病的方法。” Soley Therapeutics 的联合创始人兼首席执行官 Yerem Yeghiazarians 表示，“OCI 与 NVIDIA 的结合提供了一个全栈式 AI 解决方案，为我们提供了必要的存储、计算、软件工具以及支持，使我们能够利用 PB 级数据更快地进行创新，以开发我们的 AI 药物研发平台。”

借助定制的 Blueprint 进行大规模 AI 部署

OCI AI Blueprint 提供无代码部署方案，使客户能够快速运行 AI 工作负载，而无需对软件堆栈做出决策或手动调配基础设施。这些蓝图针对 NVIDIA GPU、NIM 微服务和预封装的观察性工具提供了明确的硬件建议，帮助企业将其 AI 项目的耗时从几周缩短到几分钟。

此外，NVIDIA Blueprint 在整个 NVIDIA 堆栈中为开发者提供了一致的体验，为企业 AI 用例提供了参考工作流。借助 NVIDIA Blueprint，企业组织可以使用 NVIDIA AI Enterprise 和 NVIDIA Omniverse™ 软件、应用编程接口和微服务，构建并运行自定义 AI 应用。例如，开发者可以从适用于客服 AI 助手的 NVIDIA AI Blueprint 开始，然后对其进行定制方便自己使用。

为简化高级物理 AI 和仿真应用及工作流的开发、部署和横向扩展，NVIDIA Omniverse 平台、NVIDIA Isaac Sim™ 开发工作站以及 Omniverse Kit App Streaming 预计将于今年晚些时候在 Oracle Cloud Infrastructure Marketplace 上推出，并预先配置了由 NVIDIA GPU 加速的计算裸金属实例。

Pipefy 是用于业务流程管理的 AI 自动化平台，通过使用推理蓝图来进行文档预处理和图像处理。

“我们采用了 OCI AI Blueprint 来快速启动 NVIDIA GPU 节点，并快速部署了用于文档和图像处理用例的多模态大语言模型。” Pipefy 首席软件工程师 Gabriel Custodio 表示，“借助这些预封装且经过验证的蓝图，我们部署在 OCI 上的 AI 模型现在已完全自动化，并且速度显著加快。”

在 OCI 数据科学中使用 NVIDIA NIM 进行实时 AI 推理

为了进一步加速企业 AI 的采用，并助力以最少的设置实现快速的 AI 部署，数据科学家可以直接在 OCI 数据科学 (OCI Data Science) 中访问预优化的 NVIDIA NIM 微服务。其支持实时 AI 推理用例，无需复杂的基础设施管理。

为了帮助维护数据的安全性和合规性，这些模型在客户的 OCI 租户中运行。客户可以通过灵活的即用即付、按时定价模式购买这些模型，也可以申请 Oracle 通用储值。

企业组织可以使用此集成在几分钟内通过预配置、优化的 NIM 推理引擎部署推理端点，从而加速 AI 助手、实时推荐引擎和 copilot 等用例的价值实现。此外，还允许客户开始将集成用于较小的工作负载，并无缝扩展到整个企业的部署。

NVIDIA 加速计算平台加速 Oracle Database 23ai 中的 AI 向量搜索

Oracle 和 NVIDIA 正在合作，使用 NVIDIA GPU 和 NVIDIA cuVS 加速创建向量嵌入和向量索引（Oracle Database 23ai 中 AI 向量搜索工作负载的计算密集型部分）。

企业机构可以通过对文本、图像和视频等大量输入数据进行批量矢量化，以及快速创建和维护向量索引，实现向量嵌入。借助 NVIDIA 加速的 AI 向量搜索，Oracle 数据库客户可以显著提高其 AI 工作管线的性能，以此支持大量 AI 向量工作负载。

DeweyVision 提供先进的计算机视觉和 AI 能力，将媒体信息转化为数据，使其可访问、可搜索、可发现、可检索且可操作。DeweyVision 在 Oracle Autonomous Database 上使用 Oracle Database 23ai 来开发其无代码 AI 仓储工具。通过在几分钟内对视频片段进行分类并提供直观的搜索功能，这些工具可让专业制作人员连接其工作流并快速编辑视频片段。

DeweyVision 首席执行官 Majid Bemanian 表示：“支持 AI 向量搜索的 Oracle Database 23ai 可以显著提高 Dewey 的搜索能力，同时提高 DeweyVision 平台的可扩展性。使用 NVIDIA GPU 创建我们加载到 Oracle 数据库中的向量嵌入，加速了平台的数据摄入。随着我们不断发展以及开辟新的机会，Autonomous Database 和 Oracle Database 23ai 的融合功能将有助于降低我们的运营成本。我们相信，在 OCI 中运行的 DeweyVision、Oracle Database 23ai 和 NVIDIA GPU 的结合将帮助我们实现成为好莱坞数据仓库的目标。”

OCI 上的 NVIDIA Blackwell 支持随时随地使用 AI

Oracle 和 NVIDIA 持续在 OCI 的公共区域、政府云、OCI Dedicated Region、Oracle Alloy、OCI Compute Cloud@Customer 和 OCI Roving Edge Device 中使用新的 NVIDIA GPU 来发展 AI 基础设施。

其中包括 NVIDIA Quantum-2 InfiniBand 集群网络环境、NVIDIA Spectrum™ 以太网交换机，以及适用于市场上一些大型 AI 超级集群的优化 NVIDIA NVLink™ 和 NVLink Switch 功能。

SoundHound 是对话式智能领域的全球领导者，提供语音和对话式 AI 解决方案，为全球品牌的数百万产品提供与语音相关的体验。其语音 AI 平台在 OCI 上运行，每年处理数十亿的查询请求，并使用 NVIDIA GPU 为客户提供快速准确的语音服务。

SoundHound AI 首席产品官 James Hom 表示：“SoundHound 与 OCI 建立了长期合作关系，相信我们的持续合作将在支持未来发展方面发挥关键作用。NVIDIA GPU 将极大加快下一代语音 AI 的训练速度。”

其他资源

关于 Oracle 分布式云

Oracle 的分布式云可提供具有更可控和灵活的云优势。Oracle 分布式云系列包括：

  • 公有云：超大规模的公有云区域服务于任何规模的组织。查看完整的区域列表。
  • 专用云：客户可以通过 OCI Dedicated Region 在自己的数据中心运行所有 OCI 云服务，合作伙伴可以使用 Oracle Alloy 转售 OCI 云服务并定制体验。
  • 混合云：OCI 通过 Oracle Exadata Cloud@Customer 和 Compute Cloud@Customer 在本地提供关键云服务，并且已经在 60 多个国家管理部署。此外，OCI Roving Edge Infrastructure 由多种配置的坚固耐用的便携式高性能设备组成，可帮助客户在边缘利用远程 AI 推理。
  • 多云：OCI 在所有超大规模云提供商（包括亚马逊云科技、谷歌云和微软 Azure）中进行物理部署，提供低延迟、原生集成的 Oracle 数据库服务，包括 Oracle Database@AWS、Oracle Database@Azure、Oracle Database@Google Cloud 和 Oracle HeatWave on AWS。借助适用于微软 Azure 的 Oracle Interconnect 和适用于谷歌云的 Oracle Interconnect，客户可以结合使用多种云的关键功能。