Skild AI 借助 NVIDIA 物理 AI 技术,让机器人仅凭一段视频即可学会新任务

Skild AI 的 S1 机器人基础模型深度融合了 NVIDIA 技术,涵盖合成数据生成、模型训练、仿真以及现实世界部署等全流程。
作者

在制造车间、仓储中心和生产线上,变化才是常态 —— 任务频繁更迭、布局不断调整、新产品持续上线,而大多数机器人若不重新彻底编程,根本无法适应这些变化。

Skild AI 全新推出的 S1 机器人基础模型旨在解决这一难题。该模型能够仅凭一段视频演示,便能学会此前从未接触过的长程任务。它以视频为输入,理解并执行任务,无需更新权重或对特定任务进行后训练 —— 这项技术被称为“上下文学习”。

Skild AI 基于 NVIDIA AI 基础设施构建了 S1 模型并开展了相关研究,这也是双方更广泛合作的一部分,合作范围覆盖合成数据生成、模型训练、仿真以及现实世界的物理 AI 部署。目前,两家公司正合力推动高适应性机器人智能走出实验室,真正落地于工厂及其他动态运营环境之中。 

Skild AI 联合创始人兼首席执行官 Deepak Pathak 表示:“从依赖预编程转向通过经验学习,机器人领域正迎来阶跃式变革。借助 NVIDIA Isaac Lab 和 NVIDIA Cosmos 技术,Skild 能够为机器人构建可扩展、多样化的经验体系,使其能够在不同场景与形态下高效学习。” 

此次发布之际,Skild AI 在首次商业部署仅 10 个月后,年化收入便已达 1 亿美元。在此期间,Skild 已建立超过 60 个部署合作伙伴关系,业务覆盖制造、物流、检测、食品加工等众多应用领域。 

仅凭一段视频即可掌握新任务 

大多数工业机器人专为固定任务而设计,因此每当新产品、新工艺或新布局出现时,都需要采集更多数据,并重新进行训练与验证。 

S1 则采用了截然不同的方法:操作人员只需录制一段目标任务的视频并将其作为提示输入模型。模型能够解析视频中演示的意图、物体及操作顺序,随即将其直接映射为当前机器人的执行动作 —— 全程无需重新训练,且往往能完成其预训练数据集中从未涵盖的任务。 

S1 能够执行长达 10 分钟的陌生任务,包括植物盆栽移栽、煎饼制作、手冲咖啡冲泡以及套件组装等。这些任务通常包含数十个操作步骤,要求机器人能够将各项技能按照从未执行过的顺序进行组合编排。

在一次植物盆栽移栽测试中,Skild AI 团队从录制演示视频到实现硬件自主执行,全程仅耗时 11 分钟。该模型还能够在物体位置发生变化时调整、从错误中恢复,并将各项技能按未经显式编程的顺序进行组合。

在针对全新多步骤任务的测试中,Skild 的 S1 机器人每个步骤的成功率约为 66%,而同类 AI 系统仅为 9% —— 性能提升了超七倍。据 Skild 估算,向机器人展示一段简短的视频示例,其效果相当于提供约 380 个实操训练样本;若由人工手动采集这些样本,则可能需耗费 50 至 100 小时。 

从实验室研究迈向工厂应用

S1 打破了机器人每当出现新变量便需反复重训练的循环,使操作人员能够直接演示新任务,无需针对每次变更都准备新的数据集或启动训练流程。在获得客户协议允许的前提下,Skild 从商业部署中积累的经验还可为更广泛的模型提供参考,进一步加速未来的部署进程。 

相关技术已在工厂车间落地应用。Skild、NVIDIA 与 Foxconn 正将 Skild Brain 部署于双臂机械臂上,用于 NVIDIA Blackwell 系统的高精度装配。在一个已演示的工作流中,机器人完成了母排与限位块的安装、16 颗螺丝的紧固,并在多步骤任务中灵活应对各类干扰。这项工作要求机器人具备精准的运动控制、触觉感知能力、序列跟踪能力,以及在实际情况偏离预设方案时的恢复能力。

NVIDIA 技术赋能全开发周期

借助 NVIDIA 加速计算,Skild 得以大规模训练其通用机器人大脑,数据来源涵盖仿真、人类视频、遥操作数据,以及在获得客户许可前提下的实际部署数据。NVIDIA Cosmos 开放世界基础模型不仅丰富了训练数据的多样性,还能将视频转化为结构化描述;而 Cosmos Curator 则可实现大规模数据的标注、筛选与整理。 

在现实部署前,Skild 广泛采用 NVIDIA 开放仿真框架对其机器人大脑进行训练与验证。NVIDIA Omniverse 库与 NVIDIA Isaac Sim 框架构建了基于物理的虚拟环境,可用于生成合成数据、测试边缘场景并验证机器人行为。 

此外,Skild 还通过 Isaac Lab (一个开放模块化机器人学习框架) 中的强化学习,进一步强化其大脑的技能。Isaac Lab 由 Newton 物理引擎驱动,可帮助 Skild 工程师精确模拟力、接触、碰撞和压力等多种物理参数,从而有效缩小仿真与现实之间的差距。 

Skild 与 NVIDIA 还正联合开发全新的 GPU 加速仿真求解器,能够快速且精准地模拟机器人的物理接触、抓握及操控实体物体。这些求解器很快将作为 Newton 的一部分,向所有开发者开放。 

随着模型逐步迈向生产部署,NVIDIA Nsight 工具可协助工程师排查训练阶段的性能瓶颈,而 NVIDIA TensorRT 软件开发套件则能优化推理性能,确保机器人在物理世界中做出快速响应。这些技术协同发力,串联数据、仿真、训练与部署各个环节,打破了以往各环节相互割裂的局面。

欢迎查阅 Skild AI 的 S1 研究报告,并深入探索 NVIDIA Isaac 机器人平台