NVIDIA 在亚马逊云科技 re:Invent 上使用加速计算推进 AI 发展

在 12 月 2 日至 6 日于拉斯维加斯举行的这场年度大会上,了解更多有关 NVIDIA 最新技术的信息。
作者 Rohil Bhargava

加速计算正在为 AI 和数据处理工作负载提供超强助力,帮助各行各业的企业以更短的时间和更低的成本实现更高的效率。

十多年来,NVIDIA 一直与亚马逊云科技 (AWS) 合作,共同为全球企业和开发者带来加速计算。

12 月 2 日至 6 日,NVIDIA 将在于拉斯维加斯举行的亚马逊云科技 re:Invent 2024 上展示全栈产品。与会者可以深入了解在亚马逊云科技上所提供的各种 NVIDIA 软硬件平台,以及合作伙伴和客户如何使用它们来加速计算最密集的工作负载。

重要会议包括:

  • “亚马逊云科技上的 NVIDIA 加速计算平台”,由 NVIDIA 加速计算产品总监 Dave Salvator 主讲(AIM110-S
  • “在亚马逊云科技上使用 NVIDIA 构建、定制和部署生成式 AI”,由 NVIDIA 产品经理 Abhishek Sawarkar 和 NVIDIA 高级产品市场 Charlie Huang 主讲(AIM241-S
  • “推进物理 AI:适用于下一代机器人技术的 NVIDIA Isaac Lab 和亚马逊云科技”,由 NVIDIA 技术市场工程师 Rishabh Chadha、亚马逊云科技高级解决方案架构师 Abhishek Srivastav 和亚马逊云科技首席企业架构师 Shaun Kirby 主讲(AIM113-S
  • “NVIDIA AI 初创公司:正在进行的创新”,由 NVIDIA 初创加速计划云合作伙伴关系和产品上市全球负责人 Jen Hoskins,以及来自 Bria、Contextual AI、Hippocratic AI、Mendel AI、Twelve Labs 和 Writer 等初创加速计划会员公司的演讲者主讲(AIM121-S
  • “AI 驱动的价值:Capital One 优化客户体验之路”,由 NVIDIA 大语言模型软件产品管理高级总监 Joey Conway 和 Capital One 首席科学家兼企业 AI 负责人 Prem Natarajan 主讲(AIM130-S
  • “使用 RAPIDS 将亚马逊云科技上的 Apache Spark 提速 5 倍”,由 NVIDIA 高级工程总监 Sameer Raheja 主讲(ANT208-S

若要获得更多上手体验,请参加亚马逊云科技 Jam 会议和工作坊:

  • AWS Jam:使用 NVIDIA NIM 构建 RAG 聊天智能体(GHJ305
  • 在 AWS Batch 上使用 NVIDIA Isaac Lab 进行机器人仿真(MFG319
  • 在 NVIDIA Jetson 上使用 AWS IoT Greengrass 实现边缘计算(IOT316
  • 使用 NVIDIA BioNeMo 构建可扩展的药物发现应用(HLS205
  • 使用 NVIDIA Omniverse 从照片、视频和激光雷达创建沉浸式 3D 数字孪生(CMP315

NVIDIA 将在 1620 号展台进行各种演示,包括即将在 Amazon Elastic Compute Cloud(Amazon EC2)和 NVIDIA DGX Cloud 上推出的 NVIDIA GB200 NVL72 完整机架,以及来自波士顿动力的敏捷移动机器人 Spot。

(以上议程,请以大会官网公告的会议时间为准)

在亚马逊云科技上展示 NVIDIA 平台的其他演示包括:

  • 使用 NVIDIA Omniverse 驱动数字孪生和物理 AI
  • 使用 NVIDIA NIM 更快部署生成式 AI
  • 使用 NVIDIA AI Blueprint 加速 AI 部署,包括用于加速药物发现的生成式虚拟筛查
  • 亚马逊云科技上的 NVIDIA 加速计算平台:硬件展示与介绍
  • 基于亚马逊云科技的 RAPIDS 欺诈预防参考架构

NVIDIA 还将展示来自精选合作伙伴和客户的演示,包括初创公司 Balbix、Bria、Mendel AI、Standard Bots、Union 和 Writer。

与会者可以进一步了解有关 NVIDIA 在亚马逊云科技上的全栈加速计算平台的更多信息,包括今年发布的三种全新 Amazon EC2 实例类型:适用于大规模 AI 训练和推理的 Amazon EC2 P5e 实例、适用于 AI 和图形的 G6e 实例以及适用于小模型部署的 G6 实例。

此外,与会者还可以了解 NVIDIA 经 GPU 优化的软件堆栈如何为各项亚马逊云科技服务带来高性能,使开发者能够轻松地在云中加速他们的应用,例如:

NVIDIA 初创加速计划是一项面向前沿初创公司的计划。其成员已经在使用亚马逊云科技上的 NVIDIA 平台来测试、开发和部署最具挑战性的工作负载:

  • Twelve Labs 在升级到 NVIDIA H100 Tensor Core GPU 后,每秒处理请求服务的推理能力最多提高了 7 倍。该公司即将以 NIM 微服务的形式推出 Marengo 和 Pegasus 模型,驱动能够对嵌入式企业视频档案进行语义搜索的视频 Al 解决方案。
  • Wiz 使用 NIM 微服务进行 DSPM 数据分类,其推理吞吐速度较其他替代方案提高一倍。
  • Writer 使用搭载 NVIDIA H100 GPU 的 SageMaker HyperPod 将模型迭代周期加快了 3 倍。借助 NVIDIA 加速计算和亚马逊云科技,Writer 优化了其 Palmyra 模型的训练和推理,大大缩短了客户的产品上市时间。

NVIDIA 初创加速计划通过提供最新的 NVIDIA 技术、接触风投公司的机会以及获取技术资源和专家的支持,帮助初创公司更快发展。

报名参加亚马逊云科技 re:Invent,了解企业如何使用亚马逊云科技上的 NVIDIA 加速计算加快其生成式 AI 和数据处理工作负载。

如果想在展会上与 NVIDIA 专家见面,请发送电子邮件