洞悉 Omniverse:开发者如何借助前沿 AI 智能体将创意转化为仿真

了解开发者如何将 AI 智能体与 NVIDIA Omniverse 库相结合,以构建仿真应用、测试物理行为并指导改进。
作者

将仿真构想转化为可运行的应用,意味着需要完成资产装配、物理模拟与渲染连接,并验证场景是否按预期运行。开发者正将前沿 AI 模型与 NVIDIA Omniverse 库相结合,助力完成上述工作 —— 构建用于探索不同场景、排查故障和改进设计的应用。

开发者通过自然语言指令引导 AI 智能体,审核其生成结果并指导调整。Omniverse 库提供 GPU 加速的物理模拟、渲染和传感器仿真功能。

探索以下项目,了解 GPT-6 Astra 等前沿 AI 模型的实际应用,并持续关注 NVIDIA 团队及整个生态系统开发者带来的全新案例。



构建面向仓库场景的人形机器人仿真器🔗

探索如何以第一人称和第三人称视角,管控游戏化且基于物理的人形机器人。

在将仓库任务自动化之前,开发者需要借助交互式仿真环境来探索任务行为,并评估具体作业流程。NVIDIA Omniverse 产品经理 Frank DeLise 基于 Astra,将 SimReady 仓库与人形机器人转化为支持第一人称和第三人称视角的交互式仿真器。

DeLise 通过 Astra 连接 NVIDIA Omniverse 库,涵盖物理 (ovphysx)、场景更新 (ovstage)、渲染 (ovrtx) 和用户界面 (ovui)。他还结合 Astra 与 SimReady (simready-foundation),在仿真中创建物理场景,并由 Astra 生成了动画和应用程序代码,完成各功能的整合。

了解如何借助前沿 AI 模型和 NVIDIA Omniverse 库,准备并验证 SimReady 机器人资产。



连接辅助驾驶测试工作流🔗

场景、传感器或驾驶模型的变化,都可能对辅助驾驶汽车仿真产生显著影响。NVIDIA 仿真技术团队经理 Doyub Kim 委托 Astra 构建了 Zero to Alpamayo,一个以旧金山市场街道为基础的可复用仿真环境。

Kim 指导 Astra 规划工作流,并分阶段将资产创建、交通系统、Omniverse RTX 传感器仿真与 Alpamayo 连接起来,同时逐一检查各项集成。由此构建的原型成为用于模型对比的测试平台,可帮助比较不同模型,并追踪场景或传感器的变化如何影响后续驾驶行为。在另一项独立实验中,Kim 利用 Cosmos 3-Nano 调整录制的仿真视频中的天气和光照条件,以比较驾驶模型在不同条件下对同一场景的响应。



利用传感器差异创建并改进数字孪生🔗

通过比较真实记录与仿真生成的摄像头和激光雷达输出,为开发者提供基于关键绩效指标的反馈,从而持续优化场景。

为测试机器人和辅助驾驶汽车,开发者需要了解仿真传感器与真实传感器的匹配程度。负责 NVIDIA RTX 传感器验证工作的 Ashley Reid 指导 Astra 和 Claude Fable 5 智能体,将 ovrtx 摄像头输出和原始激光雷达输出与记录数据进行对比。这些智能体从零构建了两个数字孪生,并改进了另外两个现有数字孪生。

在大约 3 天内,Reid 指导智能体开展迭代工作流,包括测量差异、创建或修改 OpenUSD 场景,以及检查结果。这些修改使智能体针对缺失对象、几何结构和材质进行了调整,并以摄像头和激光雷达指标作为验收依据。借助这一方法,开发者能够根据量化差异指导场景的创建与改进。

首先使用 ovrtx 最简 Python 示例渲染 OpenUSD 场景,随后定义传感器测量指标,以便与记录的数据进行比较。



Robo Olympics:通过仿真测试机器人技能🔗

训练机器人掌握新动作,意味着需要验证这些动作能否在物理约束下顺利完成。NVIDIA Omniverse 工程与产品负责人 Tae Kim 利用体育视频和自然语言指令,引导 Astra 构建了实验性项目“Robo Olympics”,用于测试仿真 Unitree G1 人形机器人的体育动作执行能力。

在 Kim 的指导下,Astra 开发了控制器,并通过物理试验对其优化。Newton 物理引擎用于仿真行为、开源的 NVIDIA Warp 框架用于加速计算,ovrtx 则负责渲染场景和虚拟摄像头图像。实验显示,机器人在 100 次仿真试验中有 64 次成功越过单个障碍。试验结果为 Kim 进一步优化机器人的时序和管控提供了反馈。

观看 Kim 探索如何使用 Astra 和 NVIDIA Omniverse 库构建仿真。



借助计算机辅助设计与仿真测试机器人拆解🔗

在机器人拆解产品之前,开发者需要确认其工具能否触及并拆下相关零部件。NVIDIA OpenUSD 高级产品经理 Jens Jebens 通过 Astra 在 PTC Onshape 中为汽车悬架建模,并在 NVIDIA Isaac Sim 中完成配置。

借助 Astra,Jebens 基于仿真结果开展了计算机辅助设计,并探索了机器人工装改进方案。该智能体通过测量可用空间,设计出一款机器人能够触及悬架螺栓的扳手。Jebens 报告称,已在仿真中成功拆除一个悬架部件。这一成果将设计及工装决策与拆卸结果关联起来,为机器人策略训练提供了起点。

探索 Onshape 导入器指南。



将国际空间站引入浏览器🔗

要将 3D 模型转化为应用,需要连接资产、实时数据与界面。NVIDIA 工程总监 Nic Johns 通过提示词,让 Astra 将 NASA 资产组装为一个带有遥测数据的 OpenUSD 国际空间站模型。Johns 仅用一条提示词便构建了该应用,随后又通过后续提示词将场景移至地球的昼半球,以呈现地球景象。

该工作流使用 Blender 准备资产,并借助 Omniverse 库完成渲染 (ovrtx)、场景运行时 (ovstage) 和流式传输 (ovstream)。该应用可将 3D 模型和运营数据引入浏览器,Johns 则通过输入提示词并持续修正来指导其开发。

试用 Omniverse Real-Time Viewer 技能。



将实景采集的房间转化为测试环境🔗

开发者必须先确保数字化重建房间中的对象可编辑、物理行为准确,才能测试交互效果。NVIDIA Isaac 工程应用团队的 Chirag Majithia 让 Astra 将立体摄像头采集的数据转化为可编辑的 OpenUSD 工作室。

该工作流结合 PyCuSFM、FoundationStereo 和 nvblox 完成重建,并由用户审核意见指导对象的选择与放置。Astra 组装了生成的资产和使用 Blender 制作的资产,并借助 USD Content 智能体来配置对象在仿真中的运动与交互方式。根据 Isaac Sim 的测试结果,工作室对门和抽屉的碰撞与接触设置进行了调整。该工作室将采集的几何数据与交互测试相结合,以便更直观地检查间隙和对象行为。

探索 USD Content 智能体。

有仿真创意?探索 NVIDIA Omniverse 库,借助 AI 智能体开启构建。