欧洲生态系统借助 NVIDIA DSX 构建全球最高效的 AI 工厂

NVIDIA DSX 助力欧洲企业将冷却用水量减少 100%,并在生成相同 AI 产出的同时,将功耗降低最多 30%
作者

新闻摘要:

  • NVIDIA DSX 参考设计采用闭环液冷和干式冷却器,使数据中心的冷却用水几乎实现零消耗。在 2 吉瓦规模的部署中,每天可节省 5400 万升水,相当于 18 万户家庭的日用水量。
  • 欧洲的 AI 云服务提供商正在构建和运营基于 NVIDIA DSX 的 AI 工厂,为欧洲企业、开发者和和政府机构提供更广泛的加速计算资源。
  • NVIDIA DSX MaxLPS 软件帮助运营商在生成相同数量的 Token 的情况下,最多可节省 30% 的功耗。CoreWeave、Firmus、Google Cloud、IREN、Lambda、Nebius、Nscale 和 Sharon AI 计划采用该技术。DSX Flex 软件则将 AI 工厂转化为灵活的电力负载,以支持电网可靠性并加快并网速度。
  • NVIDIA SimReady Central 作为一个提供物理设备仿真就绪数字模型的中心,现已在 Hugging Face 上正式上线,该平台提供经过验证的电力与冷却资产,可帮助运营商更快地构建和仿真 DSX AI 工厂的数字孪生。
  • 全新的 NVIDIA DSX OS 开源软件可自动化基础设施全生命周期管理,提升健康状态自动化监测能力及系统可靠性,帮助运营商实现 AI 工厂规模化运行。
  • 一个不断扩展的生态系统正在将 AI 工厂的设计、电力、冷却和运营紧密连接,以支持欧洲加速计算基础设施的建设。该生态系统不仅包括 AVEVA、达索系统和西门子等技术与工业 AI 领军企业,还汇聚了 ABB、Eaton、GE Vernova、日立能源、施耐德电气、西门子能源、特灵科技和 Vertiv 等能源与冷却解决方案提供商。

NVIDIA 今日宣布,欧洲领先的生态系统合作伙伴正在采用 NVIDIA DSX™ AI 工厂平台,构建能够最大限度降低冷却用水消耗、并在相同 AI 产出下功耗更低的 AI 工厂。该平台还帮助合作伙伴加快新增算力投用,并调整工作负载功耗,以支持电网可靠性。

NVIDIA DSX 是一套全栈 AI 工厂参考架构,由 NVIDIA 与全球领先的基础设施企业共同创新打造。计算、网络、存储、软件、电力和冷却被共同设计为一个统一系统,从设计到运维全程优化。

AI 云服务提供商以及领先的设计、施工、能源和冷却领域的服务商正在依托 DSX 构建和运营服务于欧洲企业、开发者和政府机构的基础设施。

NVIDIA DSX 产品管理副总裁 Warren Barkley 表示:“欧洲的技术领导力取决于我们如何有效地将电力和基础设施转化为智能。NVIDIA DSX 整合了运营商所需的技术和生态系统专业知识,助力他们以负责任的方式构建基础设施、实现大规模高效运营,并更快地将智能推向市场。”

NVIDIA DSX 平台包括多项技术:用于动态功耗分配的 DSX MaxLPS™;用于根据电网状态协调工作负载功耗的 DSX Flex;经过验证的基础设施架构 DSX 参考设计;用于仿真的 DSX Sim™;用于基础设施管理的 DSX OS™;以及用于连接计算和设施系统的 DSX Exchange™。这些技术可以帮助运营商设计、部署和运营 AI 工厂,从而节省宝贵的资源。

NVIDIA DSX 重塑冷却方式

传统的冷却塔通过蒸发水来散热,这需要持续补充用水。NVIDIA DSX 参考设计将液冷计算与基于干式冷却器的散热方式相结合,从而避免蒸发:冷却液吸收计算设备的热量并以闭环方式循环,而室外干式冷却器类似于大型散热器,在不蒸发水的情况下将热量释放到空气中。

NVIDIA Vera Rubin 基础设施支持 100% 液冷,冷却液温度最高可达 45 摄氏度。借助基于干式冷却器的设计,该架构可以将数据中心的冷却用水几乎实现零消耗。在 2 吉瓦规模的部署中,与传统冷却塔对比,NVIDIA DSX 每天可节省 5400 万升水,相当于 18 万户家庭的日用水量。当地气候条件决定了在最热的时段是否需要额外的机械制冷。

以更低的功耗实现相同的 AI 输出

电力供应能力决定了运营商能够投用多少新增算力。DSX MaxLPS 和 DSX Flex 解决了这一限制。

DSX MaxLPS 在 AI 工厂的预设预算内进行动态电力分配,帮助运营商在最高减少 30% 的功耗的情况下,生成相同数量的 Token。运营商还可以利用这一能效优势优势,在现有功耗预算下支持更多的 GPU 容量和更高的吞吐量。CoreWeave、Firmus、Google Cloud、IREN、Lambda、Nebius、Nscale 和 Sharon AI 正在探索使用这款软件。

在一项基于搭载 DSX MaxLPS 的 NVIDIA HGX Blackwell 系统开展的概念验证中,Lambda 在固定功耗预算范围内实现了集群 Token 吞吐量提升 24%,GPU 容量提升 19%。

协调 AI 工厂的电力需求与电网协同

DSX Flex 帮助 AI 工厂成为电网的灵活资产,使运营商能够根据公用事业需求、需求响应事件和能源价格调整工作负载的功耗。它还可以在电网、现场可再生能源和储能之间协调电力,帮助 AI 工厂作为灵活的电力负载运行,从而支持电网可靠性并实现更快的并网进程。

在一项早期试验中,Emerald AI、EPRI、Nebius、U.K. National Grid 和 NVIDIA 共同演示了面对模拟电网事件时,基于 NVIDIA Blackwell Ultra GPU 的集群功耗最高可降低 40%,同时关键工作负载仍能继续运行。

Nscale 借助 NVIDIA DSX 提升 AI 工厂效率

Nscale 正在使用 DSX MaxLPS、DSX Flex 和 DSX Sim,展示 NVIDIA DSX 平台如何将功耗优化、电网响应式运营和设计联系起来。

基于在位于冰岛的 Nscale AI 工厂中开展的一项评估,通过在四个 NVIDIA Grace Blackwell Ultra 系统上使用 DSX MaxLPS,Nscale 在相同的 264 千瓦预设功耗预算下,实现了推理吞吐量提升 49%,可管理的 GPU 容量增加了 37%。这一结果充分证明,动态功耗分配能够从现有基础设施中释放出额外的算力。

Nscale 也在探索应用 DSX Flex,以电网运行状况匹配工作负载的电力消耗。

Nscale 创始人兼首席执行官 Josh Payne 表示:“欧洲的 AI 发展雄心要求我们必须充分发挥每一兆瓦电力的价值。借助 NVIDIA DSX,我们正在打造能够从现有电力中释放更多算力,能根据电网运行状况做出响应,并加速从设计到部署的 AI 工厂。”

Nscale 正在使用 DSX Sim 对其位于葡萄牙和冰岛的设施创建数字孪生,以便在部署前评估功耗、冷却和基础设施配置。通过虚拟验证设计,Nscale 可以更早地发现潜在问题,降低部署风险,并加速从规划到投产的进程。

借助 DSX Sim 和 SimReady Central Library 加速 AI 工厂设计

NVIDIA 正在推出 SimReady Central Library,汇集 Vertiv 等合作伙伴经过验证的电力与冷却设备资产,从而加速创建 DSX AI 工厂数字孪生。

与 DSX Sim 配合使用,PTC 等生态系统合作伙伴正在通过计算机辅助设计 (CAD) 帮助创建这些仿真就绪的资产,继而通过 SimReady 工作流,让构建者能够在安装设备之前对基础设施配置进行建模,并评估电力与冷却方案。运营商可以更早地验证设计,降低部署风险,从而加快从规划到建设的进程。

使用 NVIDIA DSX OS 推动生产就绪

为了帮助运营商将已部署的基础设施转化为实际算力,NVIDIA 正在扩展其开源且模块化的 DSX OS 产品组合,其包括三个现处于开发者预览阶段的组件:

  • NVIDIA Config Manager 实现 AI 工厂网络配置自动化。
  • NVIDIA Rack Management Service 提供机架级的电力、库存、固件和交换机管理。
  • NVIDIA Cluster Readiness Engine 在生产工作负载部署前运行分布式工作负载验证 GPU 集群,并将故障隔离到特定节点。

与 NVIDIA Infrastructure Controller、NVIDIA AI Cluster Runtime 和 NVSentinel 协同,这些组件帮助运营商自动化基础设施全生命周期管理,保持运行时环境一致性,并强化健康验证、故障归因和恢复能力。

包括 Aleria、Cassava、CoreWeave、Cursoe、Firmus、Firebird、G42、GMI Cloud、IREN、Lambda、Nebius、Nscale、Radiant、Sharon AI 和 Volta 在内的云合作伙伴正在探索 NVIDIA DSX OS 的最新组件,以自动化基础设施全生命周期管理,并提升系统韧性和可靠性。

连接欧洲 AI 工厂生态系统的设计、电力与冷却

NVIDIA 的工业软件、电力与冷却领域的合作伙伴正在使用 DSX 参考设计、全生命周期数字孪生以及经过验证的设备推进欧洲 AI 工厂建设,将基础设施和加速计算紧密连接。

  • 施耐德电气已面向 NVIDIA Vera Rubin 基础设施开发了电力与冷却参考设计,并正在与 AVEVA 合作开发涵盖基础设施设计、施工和运营的数字孪生。
  • Procore 正在通过其与 DSX Sim 集成的施工管理平台,帮助管理 AI 工厂的建设。
  • 西门子正在使用 DSX Sim 进行电力、冷却和声学仿真,而达索系统和 Vertiv 正在为 Vertiv OneCore 基础设施开发数字孪生模型,通过基于模型的系统工程实现仿真与优化。
  • ABB 正基于 NVIDIA DSX Sim 开发 SimReady 资产,使工程师能够在施工前评估从电源到机架的架构。同时还通过其最新发布的 Infinitus Direct Current 产品组合推进 800 VDC 的研发。

合作伙伴也正在同步交付与 DSX 参考设计相匹配的协同电力与冷却基础设施。特灵科技与 Eaton 近期与 NVIDIA 合作,针对 NVIDIA Vera Rubin DSX AI 工厂参考设计打造一体化方案,将 Eaton 的 Beam 平台及电力基础设施与 Trane Continuum 冷却系统和协同控制技术相结合,构建从电网到芯片的完整架构,从而提升数据中心效率并降低安装成本。

特灵科技已发布七套热管理系统参考设计,其中包括三套基于 DSX 的 250 兆瓦冷却参考设计,用于支持大规模散热基础设施规划。

通过 NVIDIA DSX Ready 计划,构建者可以选择符合相应 DSX 类别要求的设备。特灵科技的 LiquidStack GigaModular 和 Vertiv 的 2.3 兆瓦 CoolChip 均为冷却剂分配装置,已通过各自对应类别的认证,日立能源的电池储能系统也已通过 NVIDIA DSX Ready BESS 认证。

在能源供应和电网集成方面,GE Vernova、日立能源和西门子能源正与 NVIDIA 合作开展电力基础设施和数字孪生计划,根据设施需求,将能源系统工程与电网规划关联起来。日立能源正在开发其能源管理系统与 DSX Flex 之间的集成,以协调电网、发电和储能资源与工作负载需求。

观看 NVIDIA CEO 黄仁勋 GTC 柏林主题演讲,了解更多精彩会议。