物理 AI 正快速从研究阶段迈向大规模部署。据 ABI Research 预测，到 2035 年，L3-L5 级自动驾驶汽车将达到 4900 万辆。Omdia 预计，2026 年至 2035 年期间将部署约 6000 万台工业机器人。随着这些机器进入道路、工厂、仓库和其他与人类共享的环境，安全能力也必须同步扩展。
物理 AI 安全，意味着要确保由 AI 驱动的机器 (包括智能汽车、人形机器人、工业机器人等) 在其决策转化为实际物理动作时能够安全运行。这要求安全覆盖硬件、软件、AI、运行环境和部署全生命周期，而不仅只是在部署前进行一次性检查。
为什么安全是物理 AI 实现规模化的关键？
经过多年的检测和基准测试，智能汽车正在持续扩大商业化应用。这一进展要求开发者证明，其自动化系统能够应对潜在的硬件和软件故障、预期功能局限性以及 AI 特有的风险。
随着自主机器进入工厂、仓库等人机共处的环境，机器人行业也正迈入类似的发展阶段。
在物理 AI 领域，制造商、监管机构、保险公司和工作场所安全团队都需要可靠证据，以确认在无需人工干预的情况下，硬件、软件、AI 行为和运行环境能够协同实现安全运行。
为什么物理 AI 需要新的安全模型？
以下四项变化正在重新定义安全标准：
- 动态环境需要具备上下文感知能力的安全机制。道路、工厂和仓库无法仅靠静态区域或物理屏障实现完全控制。自主系统需要能够感知环境的变化，调整自身行为，并在意外情况发生时进入安全状态。
- AI 行为需要专门的保障机制。除传统功能安全外，测试还需要评估 AI 软件，并在设计时、运行时和验证时设置安全护栏。ISO/IEC TS 22440 等新兴标准已开始应对这些 AI 特有的风险。
- 部署是持续进行的过程。智能汽车和机器人会随着软件与模型更新、新任务以及运行条件变化而不断演进。重大变更可能需要额外的安全测试。
- 大规模验证需要仿真与合成数据。潜在场景数量庞大且复杂，因此需要将真实世界测试，与仿真、合成数据生成及场景重建结合起来。
这些转变需要将安全落实到设计、部署和验证的各个环节，覆盖从底层硬件、AI 行为到运行环境的全链路。
NVIDIA 为物理 AI 构建了怎样的安全基础？
物理 AI 安全需要专业的工程能力、数据、流程和验证体系，这是少有公司能够独立复现的。NVIDIA 的安全基础源于十余年来在辅助驾驶汽车安全领域的持续研发，积累了功能安全、传感器融合、AI 行为保障、视觉 AI、仿真及真实世界验证等方面的专业能力。
NVIDIA Halos 是首个面向物理 AI 的全栈式综合安全系统，旨在帮助开发者在设计、验证和部署的各个层级实现工程安全。其核心原则适用于智能汽车和机器人领域，而具体的平台、标准和证据则因应用领域而异。
对于辅助驾驶汽车的开发，Halos 涵盖：
- 硬件：NVIDIA DRIVE AGX Thor 提供经过安全工程设计的加速计算能力，NVIDIA Hyperion 则为 L4 级自动驾驶汽车提供全栈汽车平台和参考架构。
- 操作系统与中间件：Halos OS 基于通过 ASIL-D 认证的 DRIVE OS，提供统一的软件基础。Halos Core 和 Halos Middleware 支持系统隔离、监测和确定性通信。
- 端到端模型：NVIDIA Alpamayo 提供开放的视觉-语言-动作推理模型，为长尾场景带来可解释性。
- 仿真和验证：NVIDIA Halos 安全评估框架提供工具和指南，用于生成安全证据，以支持不同自动化等级辅助驾驶汽车的安全论证。
这些要素将云端 AI 开发与仿真同车端部署连接起来，使安全证据能够在整个车辆生命周期中可追溯。
在机器人领域，Halos 涵盖以下层面：
- 硬件：工业级模组 NVIDIA IGX Thor，通过专用的功能安全岛，将加速计算与功能安全集成到同一平台上。其设计旨在支持符合 IEC 61508 和 ISO 13849 等标准的系统开发。
- 软件：面向 IGX 的 Halos Core 为安全相关运行功能提供了软件基础，包括故障检测、监测和报告，同时具备连接传感器、执行器和其他安全组件所需的通信及处理能力。
- 实时感知：NVIDIA Holoscan Sensor Bridge 将传感器数据与 AI 及安全相关处理相连接，帮助系统识别无效信息并执行既定的安全响应。
- 仿真与验证：NVIDIA Isaac Lab 和 NVIDIA Omniverse 库让开发者能够在相关条件和边缘场景下测试机器人行为，为现实世界验证提供补充。
- Outside-in safety：开源的 NVIDIA Halos Outside-In Safety Blueprint 使用外部摄像头和视觉 AI 智能体，将感知范围扩展到机载传感器之外，支持设施级监测和功能安全应用。
在辅助驾驶汽车和机器人两大领域，NVIDIA Halos AI 系统检测实验室将安全、网络安全及 AI 安全要求转化为可重复执行的检测流程，帮助 Halos 集成方案为第三方机构开展最终的系统级认证做好准备。
谁正在使用 NVIDIA Halos 安全生态系统构建解决方案？
NVIDIA Halos 连接了物理 AI 解决方案构建、集成、评估和部署的各类企业，包括产品开发商、软件与嵌入式系统提供商、传感器和芯片企业、安全解决方案开发商以及认证机构。
在辅助驾驶领域，吉利汽车、五十铃、日产 (由 Wayve 软件提供支持) 和 Einride 正基于 NVIDIA Hyperion 打造 L4 级汽车，由 Halos OS 提供支持。
Uber、Grab、Lyft 等出行服务提供商也正在使用 Hyperion 加速无人驾驶出租车的开发与部署。NVIDIA Halos AI 系统检测实验室的成员包括 AUMOVIO、博世、Gatik、Lucid、MIRA、onsemi、PlusAI、索尼、法雷奥和 Wayve，业务涵盖辅助驾驶开发、ADAS、传感器、芯片、系统集成、验证和安全保障等多个领域。
在机器人领域，acontis 和 QNX 提供确保安全功能可预测运行所需的嵌入式软件，研华科技和 NexCOBOT 则构建了基于安全设计的 NVIDIA IGX 系统。英飞凌、NXP、意法半导体和德州仪器提供传感器、安全微控制器等半导体技术。KION 集团正在为自主叉车开发功能性安全智能体。Agility 正将 NVIDIA IGX Thor 和 Halos Core 集成到其 Digit 5 人形机器人的安全系统中。
NVIDIA Halos 如何接受独立评估？
对于辅助驾驶汽车，TÜV SÜD 已认证 NVIDIA 的汽车产品生命周期软件流程和 DRIVE OS 6.0 符合 ISO 26262 ASIL D 要求，并认证 NVIDIA 的汽车工程流程符合 ISO/SAE 21434 标准。TÜV Rheinland 还对 NVIDIA DRIVE AV 进行了独立的 UNECE 安全评估。
在机器人方面，TÜV Rheinland 正在对 NVIDIA IGX Thor、Halos OS 和 Holoscan Sensor Bridge 进行功能安全认证就绪评估，该工作建立在 TÜV SÜD 此前已针对 Thor SoC 和 Halos Core 开展的 ISO 26262 检测的基础之上。
在物理 AI 领域，ANAB (ANSI National Accreditation Board，美国国家认可委员会) 已认可 NVIDIA Halos AI 系统检测实验室为 ISO/IEC 17020 检测机构。该实验室对界定范围内的 Halos 集成方案进行检测，并帮助企业为独立第三方机构开展的最终认证做好准备。
能够推动物理 AI 规模化发展的企业，并不只是打造能力最强的系统，他们还会打造能够在真实世界中接受评估、获得认证、完成部署并赢得信任的系统。从一开始就将功能安全纳入设计，正是原型与可规模化落地方案之间的区别所在。