NVIDIA 发布的全球金融服务业 AI 现状调查报告显示,多达 91% 的金融服务公司正在评估或者已经在使用 AI,并将其作为推动创新、提高运营效率和增强客户体验的工具。
借助由 NVIDIA NIM 微服务和加速计算驱动的生成式 AI,金融机构可以更好地优化投资组合并加强欺诈检测、客户服务和风险管理。
NVIDIA 初创加速计划成员企业中的 Ntropy、Contextual AI 和 NayaOne 公司,正在利用这些技术来加强金融服务应用。
总部位于硅谷的初创公司 Securiti 提供了一个集中化的智能平台,它可以确保数据和生成式 AI 的使用安全。该公司正在使用 NVIDIA NIM 为金融服务开发 AI 助手。
在本周于拉斯维加斯举行的 Money20/20 金融科技大会上,这些公司展示了他们的技术如何帮助银行、金融科技公司、支付公司和其它机构带来创新机会,把通常极为复杂的各种金融服务数据转化为有用的洞察和创新机会。
Ntropy 为非结构化财务数据带来秩序
总部位于纽约的 Ntropy 正在消除金融服务工作流中的各种混乱情况——无序、随机或不确定性。
Ntropy 联合创始人兼首席执行官 Naré Vardanyan 表示:“每当资金从 A 点转移到 B 点时,银行对账单、PDF 收据和其它形式的交易记录都会留下文本信息。传统上,此类非结构化数据很难清理,也难以用于金融应用程序。”
该公司的交易丰富化应用程序编程接口(API)可对来自各种来源和地理位置的金融数据进行标准化处理。作为一种通用语言,它可以帮助金融服务应用程序在几毫秒内以类似人类的准确性来理解任何交易,而成本只需要传统方法的万分之一。
其使用了 Llama 3 NVIDIA NIM 微服务以及在 NVIDIA Tensor Core GPU 上运行的 NVIDIA Triton 推理服务器构建而成。借助 Llama 3 NIM 微服务,Ntropy 将其大语言模型的利用率和吞吐量提高到运行原生模型时的 20 倍。
Airbase 是一家领先的软件平台提供商,其平台集成了从采购到支付的全过程。通过使用大语言模型和 Ntropy 数据丰富器,Airbase 大大改进了交易授权流程。
在 Money20/20 大会上,Ntropy 介绍了客户如何使用他们的 API 来清理客户的商户数据,从而通过提高风险检测模型的准确性来加强欺诈检测。这样的改进带来了虚假交易减少和收入损失降低。
另一个演示重点介绍了自动贷款代理如何利用 Ntropy API 来分析银行网站上的信息,并生成相关的投资报告,从而加快用户的贷款发放和决策过程。
Contextual AI 为金融服务行业推进检索增强生成技术
位于加利福尼亚州 Mountain View 市的 Contextual AI 提供了一个由检索增强生成(RAG)驱动的生产级 AI 平台,该平台非常适合在知识密集型金融服务场景中构建企业 AI 应用程序。
Contextual AI 首席执行官兼联合创始人 Douwe Kiela 表示:“RAG 是将企业 AI 投入实际应用的解决方案。Contextual AI RAG 2.0 平台采用了 NVIDIA 的技术和大语言模型,可为寻求优化运营并提供新的生成式 AI 产品的金融服务企业带来准确、可审计的 AI。”
Contextual AI 平台将整个 RAG 管道(包括提取、检索、重新排序和生成)集成到一个优化的系统中。该系统可以在几分钟内部署,并且能够根据客户需求进一步调整和优化,从而在依赖背景资料的任务中实现更高的准确度。
汇丰银行计划使用 Contextual AI,通过检索并综合相关的市场展望、财经新闻和运营文件来提供研究洞察和流程指导支持。其它金融机构也在利用 Contextual AI 的预制应用程序,涉及财务分析、政策合规报告生成、财务建议查询解析等等。
例如,用户可能会问,“我们预测 2025 年第四季度的央行利率是多少?”,Contextual AI 平台将根据实际文件提供简短的解释和准确的答案,包括引用信息源的特定章节。
Contextual AI 使用 NVIDIA Triton 推理服务器和开源的 NVIDIA TensorRT-LLM 库来加速和优化大语言模型的推理性能。
NayaOne 提供数字沙盒以推动金融服务创新
总部位于伦敦的 NayaOne 提供了一个 AI 沙盒,允许客户在商业化部署之前安全地测试和验证 AI 应用程序。其技术平台使金融机构能够创建合成数据,还为金融机构提供了一个拥有数百家金融科技公司的庞大市场的入口。
借助这个数字沙盒,客户可以对应用程序的公平性、透明度、准确性和其他合规指标进行基准测试,以便更好地确保最高的性能和成功的集成。
NayaOne 首席执行官 Karan Jain 表示:“金融服务领域对 AI 驱动的解决方案的需求正在加速增长,而我们与 NVIDIA 的合作使金融机构能够在可控、安全的环境中充分利用强大的生成式 AI。我们正在创建一个生态系统,让金融机构可以更快、更有效地开发原型产品,从而实现真正的业务转型并实施增长计划。”
NayaOne 的 AI 沙盒使用了 NVIDIA NIM 微服务,让客户能够探索和对优化后的 AI 模型进行实验,并更轻松地部署它们。与运行基于 CPU 的各种模型相比,借助 NVIDIA 加速计算,NayaOne 的欺诈检测模型在处理大型数据集时,处理速度提升最多达 10 倍,基础设施成本最多降低了 40%。
这个数字沙盒还使用了开源的 NVIDIA RAPIDS 数据科学和 AI 库,用来加速资金流动应用中的欺诈检测和预防功能。NayaOne 在 Money20/20 大会上的 NVIDIA AI 展台上展示了其数字沙盒。
Securiti 利用 AI 助手来改进财务规划
Securiti 高度灵活的 Data+AI 平台为广泛的生成式 AI 应用提供动力,包括安全的企业 AI 助手以及大语言模型的训练和调优,使用户能够构建安全的端到端企业 AI 系统。
该公司目前正在开发一款基于 NVIDIA NIM 的财务规划助手。该助手的聊天机器人可以访问各种财务数据,同时遵守隐私保护和权限政策,利用上下文感知来解答用户提出的财务相关问题。
Securiti 首席数据官 Jack Berkowitz 表示:“在保证数据安全、隐私与合规的情况下,银行难以大规模地提供个性化的财务建议。Securiti 通过强大的数据保护和基于角色的访问权限来确保安全、可扩展的支持,帮助企业构建安全的 AI 助手,使其能够针对个性化目标来提供量身定制的财务建议。”
这个聊天机器人可以检索各种来源的数据,比如收益记录、客户资料和账户余额以及投资研究报告。Securiti 的解决方案可安全地摄取并准备数据,将其用于高性能的由 NVIDIA 驱动的大语言模型,同时保留了访问权限等控制功能。最终,会通过一个简单的用户界面提供个性化的答案。
Securiti 使用 Llama 3 70B-Instruct NIM 微服务优化了大语言模型的性能,同时确保数据得到安全的使用。该公司在 Money20/20 大会上展示了其生成式 AI 解决方案。
NIM 微服务和 Triton 推理服务器可通过 NVIDIA AI Enterprise 软件平台获得。
了解更多关于 AI 用于金融服务的信息。