智能体的实用价值取决于其掌握的知识,而其可信度则取决于其运行所遵循的边界。
领先企业正使用开源 NVIDIA Agent Toolkit (现已扩展了多项新工具) 对智能体进行定制与管控,利用企业数据为其回答和行动提供依据,同时监测智能体的行为并规范其运行方式。
NVIDIA Agent Toolkit 包括:
- 全新 NVIDIA Agent Knowledge Foundation,集成 NVIDIA CUDA-X 库
- NVIDIA 开放模型,包括 Nemotron Retriever 和全新的 Kumo 系列
- NVIDIA OpenShell 安全智能体运行时
- NVIDIA NemoClaw 安全智能体蓝图
- NeMo Relay 和 NeMo Compass 等工具与技能
为了开发能够完成实际工作,并在从开发到部署的全流程中始终值得信赖的智能体,开发者需要一套将模型、Harness、运行时、数据和工具整合在一起的开放式智能体技术栈。
NVIDIA Agent Knowledge Foundation 助力企业将数据转化为可供智能体使用的企业级智能。智能体能够查找相关信息、理解其对业务的意义,并据此进行预测以辅助人们确定后续行动。企业无需迁移数据、重构现有工作流或调整治理管控措施,即可使用 Agent Knowledge Foundation。
该基础架构集成了包括 cuDF、cuGraph、cuML、cuOpt 和 cuVS 在内的 NVIDIA CUDA-X 库,以及全新的 Auto-Ontology 库。后者可将原始企业数据转化为客户、产品和订单等常见的业务概念,并构建它们之间的关系映射。
此外,该工具包还包括 NVIDIA Nemotron Retriever 和 Kumo Structured 开放模型 —— Kumo Tabular、Kumo Relational、Kumo Time Series 和 Kumo Forecast。这些模型可帮助智能体查找相关企业信息,从而回答问题并进行预测。
OpenShell 提供安全运行时边界,使企业能够管控智能体访问权限及可执行的操作。NVIDIA NemoClaw 蓝图为构建安全的专用智能体提供参考设计。最新的用于智能体优化的 NemoClaw 蓝图为提升智能体的智能水平提供了一个循序渐进的起点,随着时间的推移,使其工作能力不断增强。
NVIDIA Agent Knowledge Foundation 的企业应用
全新的 NVIDIA Agent Knowledge Foundation 已在众多企业中投入应用。
NVIDIA 的供应链组织正与 Palantir 一起通过 Palantir Foundry、Ontology 和 AIP 使用 Agent Knowledge Foundation 部署专用智能体,从专有数据中创建可执行洞察、预测结果并优化决策。
Databricks 将 NVIDIA Kumo Anomaly 与 Databricks Genie Ontology 相结合,为具备上下文感知能力的智能体提供支持。
Snowflake 支持客户在其 Snowflake Notebook 环境中使用 NVIDIA Kumo Engine 和 Kumo Relational 开放模型,从而释放更强大的预测能力。
NVIDIA Nemotron Retriever 模型能够提升搜索速度和准确性。借助嵌入模型,Amazon OpenSearch Service 以更少的搜索步骤提升了搜索相关性,且几乎未增加延迟。SAP 经微调的重排器运行速度提升近 3 倍。ServiceNow 在提升重新排序质量的同时,将延迟降低了近四分之一。Zoom 正在使用 Nemotron Retriever 模型,增强 Zoom AI Services 的文档理解、搜索相关性和上下文检索能力。
亚马逊云科技 (AWS)、ClickHouse、Cloudera、Cohesity、达索系统、戴尔、Elastic、Exa、IBM、NetApp、Oracle、Perplexity、Starburst 和 VAST Data 等企业也在基于 Agent Knowledge Foundation 开展构建工作。
