NVIDIA 发布开放智能体安全平台，保障智能体从测试到部署全流程安全

新闻摘要：

NVIDIA 开放智能体安全平台 (NVIDIA Open Agent Safety Platform) 由 NVIDIA OpenShell 开源软件和 NVIDIA Sentry 参考系统设计组成，可针对运行智能体的软件、硬件、计算和机器人系统，实施全栈治理与管控。
OpenShell 软件提供了一个安全的运行时边界，能够追踪智能体在 NVIDIA Vera CPU 上运行时的所有操作并强制执行预设的安全策略。作为一款开源软件，OpenShell 具备跨平台扩展能力，可适配包括 Arm 和 Intel 在内的第三方计算平台。
Sentry 是一个运行于 NVIDIA BlueField-4 DPU 的带外安全监控器，可持续监测智能体行为。对于试图越界的智能体，Sentry 能够在数毫秒内将其隔离。
来自整个 AI 生态系统的行业领导者正与 NVIDIA 一起，在基础设施、软件、模型和机器人的全栈体系强化各行业的 AI 安全，其中包括 Anthropic、思科、CrowdStrike、戴尔科技、Figure、HPE、Hugging Face、摩根大通、微软、Palantir、Palo Alto Networks、Perplexity、红帽、SAP、Salesforce、Scale AI、ServiceNow 和 SpaceXAI。

NVIDIA 今日宣布推出 NVIDIA 开放智能体安全平台。作为一个开放软件平台与参考系统设计，该平台旨在从智能体测试到部署的各个环节强化 AI 安全，并针对运行智能体的软件、硬件、计算和机器人系统，实施全栈治理与管控。

近期的安全事件凸显了组织配备开放、可定制工具的必要性，以加强对长时间运行的智能体的管控。这些事件均呈现出相同的模式 —— 智能体为了完成分配的任务，绕过了应用层的安全管控。

NVIDIA 创始人兼首席执行官黄仁勋表示：“只有解决 AI 安全问题，AI 为社会带来的非凡潜力才能得到充分释放。在不断探索 AI 能力边界的同时，我们必须同步加快对 AI 安全前沿的探索。安全与防护需要依靠全栈工程。NVIDIA 开放智能体安全平台汇聚业界、研究人员和公共部门组织，共享最佳实践、统一评估方法，并推动国际合作。通过共同努力，我们能够提升全球 AI 安全的标准。”

开放智能体安全平台为整个智能体技术栈提供管控能力

NVIDIA 开放智能体安全平台可实现全栈治理与管控，覆盖运行智能体的软件、支撑智能体运行的硬件和计算层，以及在物理世界中执行任务的机器人系统。各组织可根据自身需求，灵活部署该平台的相应组件。

该平台包含 NVIDIA OpenShell™ 安全运行时软件，可为在 CPU 上运行的智能体设定边界。随着智能体在更多系统中承担更多工作，企业需要在模型和智能体 Harness 之外建立一个可强制执行的边界。现已广泛可用的 OpenShell 可提供安全运行时边界，用于管控自主 AI 智能体如何跨开放模型和闭源模型执行任务。

OpenShell 在 NVIDIA Vera 上以极低开销提供这一保护能力。NVIDIA Vera 是首款专为代理式 AI 打造的 CPU。OpenShell 与 Vera 协同配合，既保障了智能体的安全运行，又能以最快的速度完成各项任务。作为一款开源软件，OpenShell 还具备跨平台扩展能力，可适配包括 Arm 和 Intel 在内的第三方计算平台。

NVIDIA 开放智能体安全平台的参考系统设计推出 NVIDIA Sentry。这是一款运行于 NVIDIA BlueField®-4 DPU 上的带外安全监控器，可持续监测智能体行为。Sentry 能够在芯片内实施安全管控，如果 AI 智能体试图越出其软件边界，Sentry 可在数毫秒内将其隔离并停止运行。

Sentry 在 BlueField-4 DPU 上运行，可持续监测智能体活动，并在芯片中独立执行安全策略。它运行在隔离的带外信任域，融合了威胁检测、基于硬件的智能体治理与策略执行，以及数据访问保护等功能，既能实现实时响应，又对智能体和攻击者不可见。

Sentry 基于 NVIDIA DOCA™ 软件构建。借助该软件提供的可编程能力，Sentry 可检查智能体的请求和响应，提供经过认证的遥测数据并验证智能体身份，同时对数据、工具、应用程序接口和服务实施精细化的零信任访问策略。

行业领先企业携手 NVIDIA 强化智能体安全

Anthropic 与 NVIDIA 合作，为智能体技术栈增加了多层安全与管控机制。Claude Managed Agents 将智能体循环部署在独立服务器上，并与执行智能体任务的沙盒相隔离，从而建立安全边界。通过与 OpenShell 和 BlueField 集成，企业能够通过这些沙盒对智能体的访问实施严格管控。

Anthropic 首席商务官 Paul Smith 表示：“企业正将更多关键的工作交由 AI 智能体处理，因此需要对智能体的工作进行指导和验证，尤其是在敏感环境中。Claude Managed Agents 让企业能够清晰掌握每个智能体的工作情况，而 NVIDIA 的平台则进一步在硬件和软件层面强化治理与管控。”

SpaceXAI 正将 NVIDIA 开放智能体安全平台用于 Cursor 编程智能体和 Grok 模型。

SpaceXAI 总裁 Mike Nicolls 表示：“随着客户日益依赖智能体完成实际工作，安全应通过在模型之外智能体无法绕过的额外管控措施予以落实。客户应能够为 Cursor 和 Grok 设置这些限制，并确信限制将切实有效。”

Scale AI 正与 NVIDIA 合作，将 NVIDIA 开放智能体安全平台技术集成至 Scale GenAI Portfolio 的智能体基础设施层。

Scale AI 首席执行官 Francis deSouza 表示：“Scale AI 正在采用 NVIDIA 开放智能体安全平台参考设计，为运行关键任务应用的企业和政府客户构建可靠的代理式 AI 系统，并从一开始就内置隔离、策略执行和审计能力。我们通过明确界定智能体可执行操作的边界，以及确保其始终在授权范围内运行的管控机制，为智能体安全提供支持。”

Salesforce 与 NVIDIA 已将 OpenShell 集成至 Slack，使团队能够直接在 Slack 中管理 OpenShell 智能体活动，包括查看智能体活动和审计事件，以及批准或拒绝智能体提出的额外权限请求，从而在智能体执行任务期间获得更高的可见性与人工监督能力。

SAP 正将 OpenShell 嵌入 SAP Business AI Platform 的 Joule Studio 运行时，以兼顾业务监督与运行时安全。该公司还为 OpenShell 贡献工程研发成果，并与 NVIDIA 合作通过开放安全 AI 联盟推动互操作性标准发展。

埃森哲、Armadin、Cadence、Cognition、CrowdStrike、思科、达索系统、德勤、安永、Hugging Face、IBM、Irregular、Perplexity、微软、SAP、Scale AI、ServiceNow、西门子、新思科技、OpenClaw、Palantir 和 Palo Alto Networks 等 100 多家机构也正在采用 NVIDIA 开放智能体安全平台技术。

Figure、Gecko Robotics 和 Skild AI 等机器人领域的领先企业，也在基于 OpenShell 进行开发，将智能体安全控制机制嵌入到能够在物理世界中执行操作的自主系统中。

花旗和摩根大通等金融服务行业的领先企业正与 NVIDIA 合作，共同推进共享的开源智能体安全技术的发展。

日立能源、美国电力研究协会 (EPRI)、新纪元能源、Quanta Services、SPP、施耐德电气、西门子能源和 Worley 等能源行业领先企业，作为关键基础设施提供商，也正采用 NVIDIA 开放智能体安全平台技术。

基础设施软件领域的领先企业 Canonical、SUSE 和红帽也正将 NVIDIA 开放智能体安全平台集成至广泛使用的操作系统软件中。红帽在其与 NVIDIA 共同研发的企业级 AI 解决方案上运行 OpenShell 和 DOCA，二者均属于 NVIDIA 开放智能体安全平台。其企业级 AI 解决方案，可用于在混合云环境中大规模构建、部署和管理 AI。

NVIDIA 合作伙伴包括 Baseten、思科、CoreWeave、戴尔科技、GMI Cloud、HPE、惠普公司、Irregular、联想、微软、Nebius、Oracle Cloud Infrastructure、Supermicro 和 Together AI 等，正在提供采用并支持 NVIDIA 开放智能体安全平台技术的 AI 基础设施解决方案，助力客户更安全地运行 AI 智能体。

可用性

NVIDIA 开放智能体安全平台软件 (包括 OpenShell 和技能) 现可通过 NVIDIA 开发者资源页面及 GitHub 获取。

以 NVIDIA 开放智能体安全平台为代表的生态系统贡献，不仅支持开放安全 AI 联盟践行使命，也助力更广泛的 AI 安全与防护社区发展。该联盟由 NVIDIA 与 120 多家领先组织发起，并由 Linux 基金会负责治理；联盟通过开放研究、技能和工具，以及共享 AI 发现交换 (Shared AI Findings Exchange，简称 SAFE) 等项目，加强 AI 智能体的安全防护。

关于 NVIDIA
NVIDIA (NASDAQ: NVDA) 是 AI 和加速计算领域的全球领导者。

该新闻稿所含若干陈述包括 (但不限于) 有关以下各项的陈述：只有解决 AI 安全问题，AI 为社会带来的非凡潜力才能得到充分释放；NVIDIA 开放智能体安全平台汇聚业界、研究人员和公共部门组织，共享最佳实践、统一评估方法并推动国际合作；NVIDIA 和商业合作伙伴共同提升全球 AI 安全标准；对 NVIDIA 产品、服务和技术的发展、性能、可用性和优势的预期，以及相关趋势和驱动因素；对 NVIDIA 与协作者及合作伙伴的第三方安排的预期；对技术发展及相关趋势和驱动因素的预期；市场预期增长和趋势；对 AI 及相关行业的预期；以及其他非历史事实的陈述均属前瞻性陈述，这些都是符合 1933 年《证券法》第 27A 条 (经修订) 和 1934 年《证券交易法》第 21E 条 (经修订) 所定义的前瞻性声明。前瞻性声明受到这些法律条款创建的“安全港”保护，其依据为管理层的信念与假设以及当前可获得的信息，但同时也受到多种风险与不确定因素的影响，这些因素可能导致实际结果与预期产生重大差异。可能导致实际结果产生重大差异的重要因素包括：全球经济及政治状况；NVIDIA 依靠第三方来制造、组装、包装和测试 NVIDIA 的产品；技术发展和竞争的影响；新产品和技术的开发或者现有产品和技术的升级；NVIDIA 产品或合作伙伴产品的市场认可度；设计、制造或软件缺陷；消费者偏好或需求的变化；行业标准和接口变化；NVIDIA 产品或技术在集成到系统中时发生的意外性能损失；以及适用法律法规的变化；NVIDIA 向美国证券交易委员会 (SEC) 提交最新报告中不时详述的其他因素，这些报告包括 (但不限于) 采用 10-K 表的年度报告和采用 10-Q 表的季度报告。向 SEC 提交的报告的副本均在 NVIDIA 的官方网站上发布，并可免费下载。以上前瞻性陈述并非未来表现的保证，仅以本协议日期为准；除法律要求外，NVIDIA 不承担更新以上前瞻性陈述以反映未来事件或情况的任何义务。

本新闻稿所述的许多产品和功能目前仍处于不同阶段，并将在具备条件且可用时推出。上述声明并不构成，也不应被解释为任何承诺、保证或法律义务。文中提及的任何产品功能或特性的开发、发布及时间安排均可能发生变化，并完全由 NVIDIA 自主决定。对于本文所述任何产品、功能或特性的未能交付或延迟交付，NVIDIA 不承担任何责任。