NVIDIA Agent Toolkit 进一步扩展,助力企业智能体扎根企业数据

作者

智能体的实用价值取决于其掌握的知识,而其可信度则取决于其运行所遵循的边界。

领先企业正使用开源 NVIDIA Agent Toolkit (现已扩展了多项新工具) 对智能体进行定制与管控,利用企业数据为其回答和行动提供依据,同时监测智能体的行为并规范其运行方式。

NVIDIA Agent Toolkit 包括:

阅读 NVIDIA 在欧洲的新闻公告

为了开发能够完成实际工作,并在从开发到部署的全流程中始终值得信赖的智能体,开发者需要一套将模型、Harness、运行时、数据和工具整合在一起的开放式智能体技术栈。

NVIDIA Agent Knowledge Foundation 助力企业将数据转化为可供智能体使用的企业级智能。智能体能够查找相关信息、理解其对业务的意义,并据此进行预测以辅助人们确定后续行动。企业无需迁移数据、重构现有工作流或调整治理管控措施,即可使用 Agent Knowledge Foundation。

该基础架构集成了包括 cuDF、cuGraph、cuML、cuOpt 和 cuVS 在内的 NVIDIA CUDA-X 库,以及全新的 Auto-Ontology 库。后者可将原始企业数据转化为客户、产品和订单等常见的业务概念,并构建它们之间的关系映射。

此外,该工具包还包括 NVIDIA Nemotron Retriever 和 Kumo Structured 开放模型 —— Kumo Tabular、Kumo Relational、Kumo Time Series 和 Kumo Forecast。这些模型可帮助智能体查找相关企业信息,从而回答问题并进行预测。

OpenShell 提供安全运行时边界,使企业能够管控智能体访问权限及可执行的操作。NVIDIA NemoClaw 蓝图为构建安全的专用智能体提供参考设计。最新的用于智能体优化的 NemoClaw 蓝图为提升智能体的智能水平提供了一个循序渐进的起点,随着时间的推移,使其工作能力不断增强。

NVIDIA Agent Knowledge Foundation 的企业应用

全新的 NVIDIA Agent Knowledge Foundation 已在众多企业中投入应用。

NVIDIA 的供应链组织正与 Palantir 一起通过 Palantir Foundry、Ontology 和 AIP 使用 Agent Knowledge Foundation 部署专用智能体,从专有数据中创建可执行洞察、预测结果并优化决策。

Databricks 将 NVIDIA Kumo Anomaly 与 Databricks Genie Ontology 相结合,为具备上下文感知能力的智能体提供支持。

Snowflake 支持客户在其 Snowflake Notebook 环境中使用 NVIDIA Kumo Engine 和 Kumo Relational 开放模型,从而释放更强大的预测能力。

NVIDIA Nemotron Retriever 模型能够提升搜索速度和准确性。借助嵌入模型,Amazon OpenSearch Service 以更少的搜索步骤提升了搜索相关性,且几乎未增加延迟。SAP 经微调的重排器运行速度提升近 3 倍。ServiceNow 在提升重新排序质量的同时,将延迟降低了近四分之一。Zoom 正在使用 Nemotron Retriever 模型,增强 Zoom AI Services 的文档理解、搜索相关性和上下文检索能力。

亚马逊云科技 (AWS)、ClickHouse、Cloudera、Cohesity、达索系统、戴尔、Elastic、Exa、IBM、NetApp、Oracle、Perplexity、Starburst 和 VAST Data 等企业也在基于 Agent Knowledge Foundation 开展构建工作。

欢迎观看 GTC 柏林相关演讲,了解如何在生产环境中构建、部署和优化专用智能体。

阅读 NVIDIA 在欧洲的新闻公告