加速计算正在为 AI 和数据处理工作负载提供超强助力,帮助各行各业的企业以更短的时间和更低的成本实现更高的效率。
十多年来,NVIDIA 一直与亚马逊云科技 (AWS) 合作,共同为全球企业和开发者带来加速计算。
12 月 2 日至 6 日,NVIDIA 将在于拉斯维加斯举行的亚马逊云科技 re:Invent 2024 上展示全栈产品。与会者可以深入了解在亚马逊云科技上所提供的各种 NVIDIA 软硬件平台,以及合作伙伴和客户如何使用它们来加速计算最密集的工作负载。
重要会议包括:
- “亚马逊云科技上的 NVIDIA 加速计算平台”,由 NVIDIA 加速计算产品总监 Dave Salvator 主讲(AIM110-S)
- “在亚马逊云科技上使用 NVIDIA 构建、定制和部署生成式 AI”,由 NVIDIA 产品经理 Abhishek Sawarkar 和 NVIDIA 高级产品市场 Charlie Huang 主讲(AIM241-S)
- “推进物理 AI:适用于下一代机器人技术的 NVIDIA Isaac Lab 和亚马逊云科技”,由 NVIDIA 技术市场工程师 Rishabh Chadha、亚马逊云科技高级解决方案架构师 Abhishek Srivastav 和亚马逊云科技首席企业架构师 Shaun Kirby 主讲(AIM113-S)
- “NVIDIA AI 初创公司:正在进行的创新”,由 NVIDIA 初创加速计划云合作伙伴关系和产品上市全球负责人 Jen Hoskins,以及来自 Bria、Contextual AI、Hippocratic AI、Mendel AI、Twelve Labs 和 Writer 等初创加速计划会员公司的演讲者主讲(AIM121-S)
- “AI 驱动的价值:Capital One 优化客户体验之路”,由 NVIDIA 大语言模型软件产品管理高级总监 Joey Conway 和 Capital One 首席科学家兼企业 AI 负责人 Prem Natarajan 主讲(AIM130-S)
- “使用 RAPIDS 将亚马逊云科技上的 Apache Spark 提速 5 倍”,由 NVIDIA 高级工程总监 Sameer Raheja 主讲(ANT208-S)
若要获得更多上手体验,请参加亚马逊云科技 Jam 会议和工作坊:
- AWS Jam:使用 NVIDIA NIM 构建 RAG 聊天智能体(GHJ305)
- 在 AWS Batch 上使用 NVIDIA Isaac Lab 进行机器人仿真(MFG319)
- 在 NVIDIA Jetson 上使用 AWS IoT Greengrass 实现边缘计算(IOT316)
- 使用 NVIDIA BioNeMo 构建可扩展的药物发现应用(HLS205)
- 使用 NVIDIA Omniverse 从照片、视频和激光雷达创建沉浸式 3D 数字孪生(CMP315)
NVIDIA 将在 1620 号展台进行各种演示,包括即将在 Amazon Elastic Compute Cloud(Amazon EC2)和 NVIDIA DGX Cloud 上推出的 NVIDIA GB200 NVL72 完整机架,以及来自波士顿动力的敏捷移动机器人 Spot。
(以上议程,请以大会官网公告的会议时间为准)
在亚马逊云科技上展示 NVIDIA 平台的其他演示包括:
- 使用 NVIDIA Omniverse 驱动数字孪生和物理 AI
- 使用 NVIDIA NIM 更快部署生成式 AI
- 使用 NVIDIA AI Blueprint 加速 AI 部署,包括用于加速药物发现的生成式虚拟筛查
- 亚马逊云科技上的 NVIDIA 加速计算平台:硬件展示与介绍
- 基于亚马逊云科技的 RAPIDS 欺诈预防参考架构
NVIDIA 还将展示来自精选合作伙伴和客户的演示,包括初创公司 Balbix、Bria、Mendel AI、Standard Bots、Union 和 Writer。
与会者可以进一步了解有关 NVIDIA 在亚马逊云科技上的全栈加速计算平台的更多信息,包括今年发布的三种全新 Amazon EC2 实例类型:适用于大规模 AI 训练和推理的 Amazon EC2 P5e 实例、适用于 AI 和图形的 G6e 实例以及适用于小模型部署的 G6 实例。
此外,与会者还可以了解 NVIDIA 经 GPU 优化的软件堆栈如何为各项亚马逊云科技服务带来高性能,使开发者能够轻松地在云中加速他们的应用,例如:
- 生成式 AI:NVIDIA NeMo 和 NIM 微服务作为 NVIDIA AI Enterprise 软件平台的一部分提供,并且可在亚马逊云科技 Marketplace 中使用,可在 Amazon EC2、Amazon SageMaker 和 Amazon Elastic Kubernetes Service(EKS)上实现生成式 AI 构建、定制和部署。
- 数字孪生和物理 AI:亚马逊云科技上的 NVIDIA Earth-2 气象仿真,以及使用 AWS Batch 进行机器人仿真和学习的 NVIDIA Isaac Sim 和 Isaac Lab。
- 医疗:适用于药物发现应用的 NVIDIA BioNeMo,包括适用于虚拟筛选的 NVIDIA AI Blueprint 以及适用于蛋白质预测和小分子生成的 NIM 微服务,由 AWS Healthomics 提供支持。
- 数据处理:用于加速分析和机器学习工作负载的 RAPIDS Accelerator for Apache Spark,可在 Amazon EMR、Amazon EC2 和 Amazon EMR on EKS 上使用。
- 边缘 AI:AWS IoT Greengrass 与 NVIDIA Jetson 结合使用,可简化生成式 AI 模型的部署,以及互联边缘设备群与机器人编队的管理。
NVIDIA 初创加速计划是一项面向前沿初创公司的计划。其成员已经在使用亚马逊云科技上的 NVIDIA 平台来测试、开发和部署最具挑战性的工作负载:
- Twelve Labs 在升级到 NVIDIA H100 Tensor Core GPU 后,每秒处理请求服务的推理能力最多提高了 7 倍。该公司即将以 NIM 微服务的形式推出 Marengo 和 Pegasus 模型,驱动能够对嵌入式企业视频档案进行语义搜索的视频 Al 解决方案。
- Wiz 使用 NIM 微服务进行 DSPM 数据分类,其推理吞吐速度较其他替代方案提高一倍。
- Writer 使用搭载 NVIDIA H100 GPU 的 SageMaker HyperPod 将模型迭代周期加快了 3 倍。借助 NVIDIA 加速计算和亚马逊云科技,Writer 优化了其 Palmyra 模型的训练和推理,大大缩短了客户的产品上市时间。
NVIDIA 初创加速计划通过提供最新的 NVIDIA 技术、接触风投公司的机会以及获取技术资源和专家的支持,帮助初创公司更快发展。
报名参加亚马逊云科技 re:Invent,了解企业如何使用亚马逊云科技上的 NVIDIA 加速计算加快其生成式 AI 和数据处理工作负载。
如果想在展会上与 NVIDIA 专家见面,请发送电子邮件。