美团凭借NVIDIA GPU实现计算平台全面升级,AI效率提高百倍

by 英伟达中国

案例简介

•            本案例中,美团借助于NVIDIA GPU全面升级其AI平台,实现文字检测、人脸识别、商品识别的离线训练效率的上百倍提升,以及数十倍的推理效率提升。

•    基于NVIDIA GPU对美团AI计算平台的全面升级,美团AI视觉得到了超大规模的落地。

•    本案例主要应用到NVIDIA Tesla V100 GPU和Tesla P4 GPU。

Case Introduction

•    In this case, Meituan adopts NVIDIA GPU to upgrade its AI computing platform, realized hundreds of times of text detecting, facial recognition, products recognition model training efficiency, and dozens of times of inference efficiency.

•    With the upgrade of AI computing platform by NVIDIA GPU, Meituan AI visual technology realized mass-scale deployment.

•    The major products utilized in the case is NVIDIA Tesla V100 GPU, Tesla P4 GPU.

背景

如今,不知不觉间,AI已经渗透到了生活的方方面面,甚至包括大家所熟知的餐饮外卖。从商家的菜单录入、招牌识别、到促销时AI自动生成的广告首图优选、外卖骑手的身份验证……美团的AI视觉能力已经渗透到其业务的方方面面。

美团的AI视觉团队从2015年开始建立,为美团各项业务提供AI视觉能力(比如图像审核、智能选图等)。与其他很多企业不同,美团的AI技术有着强烈的业务导向特色。当前,美团的AI技术主要分为四大类,分别为:基于AI的语音/语义理解技术、基于AI的视觉处理技术、基于运筹学为主的配送调度优化、以及基于自动驾驶相关的无人配送技术。

对于商户,美团AI能够让其通过拍照录入菜单,通过文字检测、语义分割、视觉关系学习等技术抽取纸质菜单上的结构化信息,让商户菜单录入的时间由小时级降至一分钟以内。

此外,商户的证件资质认证、骑手的刷脸认证、用户所使用的AI菜品识别小程序、广告首图优选、骑手抽检等等应用背后,都有着美团AI视觉的加持。

挑战

随着越来越多的商户入驻平台,以及骑士队伍的不断壮大和用户数量的激增,美团集团内部对于AI算力的需求也随之飙升。举个例子,为了保障用户的安全,当前美团日活的70万名骑手都已经全面覆盖了“刷脸认证”功能。但是这项功能为骑手多增加了一道验证工序,对于效率与体验都有影响。

方案

为应对AI算力需求的飙升,2017年,美团进行了企业层面的计算平台全面升级,将从以CPU为主的计算平台升级为以NVIDIA GPU为主的集群化AI计算平台。

在升级为以NVIDIA Tesla V100 GPU为主的集群化AI计算平台后,美团AI在文字检测、人脸识别、商品识别的离线训练(Training)环节能够达到上百倍的效率提升。

而在应用推理(Inference)方面,美团基于NVIDIA Tesla P4 GPU + TensorRT的搭配能让计算效率提高数十倍。而且,美团目前使用的是FP32精度,未来如果使用NVIDIA T4 Tensor Core GPU进行FP16精度的推理计算,性能将进一步提升。这种低时延、高实时性的计算性能对于用户与配送员的体验非常重要。

影响

美团使用基于GPU并行+TensorRT的方案进行大规模人脸比对的骑手身份验证,保证了骑手的人脸比对效率。相比于基于CPU方案,这套方案可以加速20倍以上,速度的提升能让外卖小哥“刷脸认证”的过程更快捷、体验更优秀,当前,美团服务器集群的AI视觉服务的日均调用已经达到了上亿次。

现在,AI菜单拍照录入对于商户而言,美团AI能够让其通过拍照录入菜单,通过文字检测、语义分割、视觉关系学习等技术抽取纸质菜单上的结构化信息,让商户菜单录入的时间由小时级降至一分钟以内。

2018年,结合美团的计算平台升级,美团AI视觉得到了超大规模的落地,覆盖了上文提到的菜单识别、人脸认证、刷脸支付、广告生成等众多集团内部应用场景。

美团视觉图像中心图像视频组负责人魏晓明认为:当前AI算法依旧在快速迭代的过程中。对于美团这种大型平台来说,持续对TensorFlow、Caffe、MXNet等多个深度学习框架进行迭代能够提高计算并行化效率,对于美团特定AI场景的优化十分重要。下一步,美团AI视觉团队还将对视频理解、门店数字化、无人配送系统等更多AI场景落地进行拓展。

 

© 2019 NVIDIA Corporation. All rights reserved.