正视差距:企业数据使大语言模型更加智能

by 英伟达中国

NVIDIA NeMo服务帮助企业将其专有数据与LLMs相结合,以改善聊天机器人、客户服务等

2023年3月21日,Erik Pounds

如今,可用的大语言模型(LLM)知识储备非常深厚,但它们就像时间胶囊一样——它们所捕捉的信息仅限于它们在第一次训练时的可用数据。例如,如果AI聊天机器人使用一年前训练的LLM ,则它将不会了解企业的最新产品和服务。

作为新发布的NVIDIA AI Foundations云服务系列的一部分,NVIDIA NeMo服务可以帮助企业通过增加专有数据来弥合差距,从而使LLM能够频繁更新模型的知识库,而无需进一步训练或从头开始。

NeMo 服务中的这个新功能使大语言模型能够从专有数据来源中检索准确的信息,并生成针对用户查询的会话式类人回答。借助此功能,企业可以使用NeMo为其应用程序定制可定期更新特定领域知识的大语言模型。

这个能力可以帮助企业跟上不断变化的库存、服务等领域,解锁高度准确的AI聊天机器人、企业搜索引擎和市场情报工具等能力。

NeMo 包括引用语言模型响应来源的功能,可以提升用户对输出结果的信任。使用 NeMo 的开发人员还可以设置护栏来定义 AI 的专业领域,更好地控制所生成的响应。

Quantiphi 是一家基于人工智能的数字工程解决方案和平台公司,是 NVIDIA 的服务交付伙伴之一。 他们正在使用 NeMo 构建一个叫做 baioqiq的模块化生成式 AI 解决方案,用来帮助企业构建定制化的 LLM,以提高工人生产效率。他们的开发团队正在开发一种工具,能让用户在几秒钟内搜索最新的非结构化文本、图像和表格中的信息。

让暗数据发挥作用

               分析人士估计,大约有三分之二的企业数据未被利用。这种所谓的暗数据之所以会这样,部分原因是从大量信息中获取有意义的洞察很难。现在,有了NeMo,企业可以用自然语言查询的方式从这些数据中获取洞察。

NeMo可以帮助企业构建能从不断发展的知识库中学习和反应的模型,而不依赖于模型最初训练的数据集。与需要重新训练LLM以适应新信息不同,NeMo可以利用企业数据源获取最新的详细信息,也可以添加额外的信息来扩展模型的知识库,而不用修改其语言处理和文本生成的核心能力。

企业还可以使用NeMo构建护栏,使生成式  AI 应用程序不会提供超出其定义的专业领域的意见。

为企业开启生成式 AI 应用的新浪潮

通过使用业务数据定制LLM,企业可以使其 AI 应用程序具有敏捷性和对新发展的响应能力。

  • 聊天机器人: 许多企业已经在其网站上使用 AI 聊天机器人来支持基本的客户互动。有了NeMo,公司可以构建专注其领域的虚拟专家。
  • 客户服务: 企业可以使用最新产品的详细信息更新NeMo模型,帮助服务代表更轻松地用更精确的最新信息来回答客户问题。
  • 企业搜索: 企业在整个组织中拥有丰富的知识,包括技术文档、公司政策和IT支持文章。员工可以查询由NeMo驱动的内部搜索引擎,从而更快、更轻松地检索信息。
  • 市场情报: 金融行业收集有关全球市场、上市公司和经济趋势的见解。通过将LLM连接到定期更新的数据库,投资者和其他专家可以快速识别出大量信息中有用的细节,例如监管文件、收益电话的录音或财务报表。

如果您或您的企业有兴趣应用程序添加生成式AI功能,可以申请NeMo 服务的早期客户体验。

观NVIDIA GTC 的主题演讲上关于 NVIDIA AI Foundations 的介绍: