先声夺人:顶尖 OEM 厂商发布全球首批用于处理 AI 工作负载的 NVIDIA 认证系统这项开创先河的认证计划标志着全球首批加速服务器通过测试,能够用于机器学习和分析。

作者 Adel El Hallak

AI 是这个时代最强大的技术,需要新一代经过调整和测试的计算机来推动其发展。

自 1 月 27 日开始,可从 NVIDIA 合作伙伴处获取用于数据中心的新型加速服务器,推动 AI 和数据分析的发展。顶尖的系统制造商正在交付首批 NVIDIA 认证系统,它们是目前业内唯一通过现代工作负载测试的服务器。

得益于使用 NVIDIA Mellanox 网络连接的 NVIDIA 最新 GPU ,这些系统能够为 AI 提速。它们能够加快机器学习的速度,从不断增长的企业数据堆中挖掘洞察,寻找传统系统遗漏的“宝藏”。

戴尔科技、技嘉、慧与、新华三、浪潮和超微的认证服务器均于 1 月 27 日起开始供货。 NVIDIA 与全球顶尖 OEM 厂商合作,推动 AI 在各行各业的发展。

首批使用 NVIDIA A100 Tensor Core GPU 的系统包括:

  • 戴尔 EMC PowerEdge R7525 和 R740 机架服务器
  • 技嘉 R281-G30 、 R282-Z96 、 G242-Z11 、 G482-Z54 、 G492-Z51 系统
  • 慧与 Apollo 6500 Gen10 系统和慧与 ProLiant DL380 Gen10 服务器
  • 新华三 UniServer R5500 G5 机架服务器
  • 浪潮 NF5488A5
  • 超微 A+服务器 AS-4124GS-TNR 和 AS-2124GQ-NART

这些产品都带有 NVIDIA 认证系统标识,向客户证明了其所购买的系统符合 NVIDIA 最佳设计范例。同时,也代表这些系统可以处理机器学习、数据分析等领域最棘手的任务。

NVIDIA-Certified Systems with logos x 1280
领先的加速服务器制造商发布NVIDIA认证系统

企业AI的转折点

这些系统的出现源于领先企业对 AI 领域的日益关注。

美国运通正在使用最新的 AI 模型进行实时欺诈检测。福特使用生成式对抗网络生成测试自动驾驶汽车所需的数据。达美乐使用 AI 改进其每年 30 亿份披萨订单完成时间的预测。

除了上述公司之外,还有许多公司也在采用这种诞生于网络的强大新型计算方式。如今,它正在向零售、物流、银行和医疗健康等行业普及。

根据 Gartner ,目前 37%的企业机构在生产中使用了 AI ,预计到 2024 年这一比例将翻倍至 75%。

扩展大数据堆

各企业正从不断增加的数据中,总结出隐藏的战略洞察。例如,沃尔玛每小时要处理超过 2.5PB 的数据。

在短短 5 年内,筛选这些数据的 AI 模型规模增长了近 3 万倍,推动了对加速计算的需求。同时,使用这些数据的模型和工作负载的多样性也在不断扩大。因此,企业需要更加灵活的 GPU 。

日益增加的数据量和不断扩大的 AI 数据筛选模型,导致数据中心和网络边缘的网络流量呈指数级增长。为了解决这一问题,企业需要一个安全、可靠、高速并且能够有效扩展的基础设施。

通过AI测试

NVIDIA 认证系统提供企业 AI 所需的性能、可编程性和安全吞吐量。这些系统结合了基于NVIDIA Ampere 架构的 GPU 计算力与安全、高速的NVIDIA Mellanox 网络

为了通过认证,这些系统必须接受广泛的工作负载测试,涵盖从需要多个计算节点的工作到只需要使用单个 GPU 部分性能的任务等。

这些系统均经过优化,可以运行 NVIDIA GPU 优化应用中心——NGC 目录中的 AI 应用。

NGC 是一个不断扩大的软件开发套件中心,这些套件可以将 AI 引入医疗健康(Clara)和机器人(Isaac)等垂直市场。此外,它还包含帮助企业在推荐系统(Merlin)和智能视频分析(Metropolis)等新兴用例中起步的框架。

具体而言, NVIDIA 认证系统必须通过以下测试:

  • 深度学习训练和推理
  • 机器学习算法
  • 智能视频分析
  • 网络和存储卸载

这些测试基于现实世界中的用例,使用的是NGC 目录中常用的 AI 框架和容器。

因此,通过 NVIDIA 认证系统,每家公司都能使用全球最强大 AI 计算机背后相同的硬件和软件。

全球最大的云服务提供商和全球十大超级计算机中的八台均由 NVIDIA 技术驱动。采用 NVIDIA 技术的系统在MLPerf等 AI 基准测试中处于领先地位。

探索背后的奥秘

NVIDIA 认证系统包括功能强大的数据中心服务器,该服务器内置多达 8 个 A100 GPU 和高速 InfiniBand 或以太网网卡。此外,还有为在企业网络边缘运行 AI 而量身定制的主流 AI 系统。

OEM 厂商对使用 NVIDIA Mellanox 电缆、交换机和网卡(如 ConnectX-6 InfiniBand以太网网卡和 BlueField-2 DPU )的系统进行认证。除了能够同时保证低延迟与高吞吐量外,这些网卡还支持从启动时的硬件信任根,到应用连接追踪等多层网络安全措施。

所有使用 NVIDIA Mellanox 8700 HDR 200G InfiniBand 交换机或 Mellanox SN3700 以太网交换机的系统均已获得认证。

所有 NVIDIA 认证系统均可提供涵盖整个软件堆栈的企业级支持,包括对开源代码的支持。这是因为 NVIDIA 希望确保所有垂直市场中的企业都能迅速享受到 AI 所带来的益处。

凭借戴尔科技、技嘉、慧与、新华三、浪潮和超微的最新系统,每家公司都可以开始自身企业的 AI 转型之路。

截至目前,来自 6 家系统制造商的 14 台服务器已通过认证,以提供加速计算。至少有 11 家系统制造商的近 70 个系统参与了这一认证计划。

请继续关注更多合作伙伴所提供的更多 NVIDIA 认证系统。

NVIDIA-Certified Systems logo x 1280