近期，我们在 AI 效能、物联网设备的采用以及边缘计算的性能方面取得了长足的进步，这三者强强联合，共同激发了边缘 AI 的强大功能。
这也为边缘 AI 开辟了未曾有过的新机会，包括帮助医院的放射科医生识别病症、帮助司机驾驶汽车驶下高速公路，以及帮助为植物授粉。
无数分析师和企业都在谈论和实施边缘计算，此技术可以追溯到 20 世纪 90 年代，当时人们创建了内容交付网络，从部署在用户附近的边缘服务器上提供网络和视频内容。
如今，几乎每家企业中都有因边缘 AI 的采用而受益的工作职能。事实上，边缘应用程序正在改善我们在家庭、工作、学校和交通方面的生活，而这些改善将会推动下一波 AI 浪潮。
详细了解边缘 AI 是什么、其优势及运作方式、边缘 AI 用例的示例，以及边缘计算和云计算之间的关系。
什么是边缘 AI？
边缘 AI 是 AI 应用程序在整个现实世界的设备中的部署。之所以称其为“边缘 AI”，是因为该 AI 计算是在位于网络边缘的用户附近完成的，靠近数据所在的位置，而不是集中在云计算设施或私人数据中心之中。
由于互联网能够覆盖全球范围，因此网络边缘可以表示任何位置。它可以是我们周围的零售商店、工厂、医院或设备（例如交通灯、自主机器和手机）。
边缘 AI：为何是现在？
各行各业的组织都在致力于提高自动化程度，以改进流程、提高效率和增强安全性。
为了帮助这些组织，计算机程序需要能够识别模式，并重复安全地执行任务。我们所处的世界是非结构化的，并且人类所执行的任务范围涵盖了无限种情况，而程序和规则无法完全描述这些情况。
边缘 AI 的进步为机器和设备提供了能够随时随地使用人类认知的“智能”执行操作的机会。支持 AI 的智能应用程序会学习在不同情况下执行类似任务，这与现实生活十分相似。
在边缘部署 AI 模型的有效性源于近期的三项创新。
- 神经网络的成熟：神经网络和相关 AI 基础架构终于发展到了能够支持广义机器学习的程度。组织正在学习如何成功训练 AI 模型并将其部署到边缘的生产环境中。
- 计算基础设施的进步：运行边缘 AI 时需要强大的分布式计算能力。高度并行 GPU 的新进展已适应于执行神经网络。
- 物联网设备的采用：物联网 (loT) 的广泛采用推动了大数据的爆炸式增长。随着我们突然获得的从工业传感器、智能摄像头、机器人等各个方面收集数据的能力，我们现在已经拥有了在边缘部署 AI 模型所需的数据和设备。此外，现在通过 5G 实现的更快、更稳定、更安全的连接也正在持续提升物联网的性能。
为何要部署边缘 AI？ 边缘 AI 具有哪些优势？
由于 AI 算法能够理解语言、视觉、声音、气味、温度、面部以及其他非结构化信息的模拟形式，因此它们能够在最终用户处理实际问题时提供有力的帮助。由于延迟、带宽和隐私方面的问题，在中央云端或企业数据中心中部署这些 AI 应用程序是不切实际的，甚至是不可能完成的。
边缘 AI 的优势包括：
- 智能：由于传统的应用程序只能响应程序员预先完成的输入，而 AI 应用程序会更为强大和灵活。相比之下，AI 神经网络的训练目标并不是如何回答特定的问题，而是如何回答特定类型的问题，即使问题本身是新的。如果没有 AI，应用程序就无法处理无限多样的输入，如文本、口语或视频。
- 实时见解：由于边缘技术能够在本地分析数据，而不是在远距离的云端，所以不会因为长途通信而产生延迟，因此可以实时响应用户的需求。
- 降低成本：由于处理能力更靠近边缘，所以应用程序所需的互联网带宽也变得更少，大幅降低了网络成本。
- 更强的隐私性：AI 可以在无需向人类公开的情况下分析现实世界的信息，从而大大提高了任何需要对其外貌、语音、医学影像或任何其他个人信息进行分析的人的隐私。边缘 AI 通过将数据存储在本地，只将分析和见解上传至云端的方式进一步增强了隐私性。即便也会出现上传部分数据上以用于训练的情况，但也会将其进行匿名化处理以保护用户身份。通过对隐私的保护，边缘 AI 简化了与数据监管合规相关的挑战。
- 高可用性：通过去中心化和离线功能，使我们不再需要在处理数据时进行互联网访问，从而增强了边缘 AI 的可靠性。这也提高了任务关键型生产级 AI 应用程序的可用性和可靠性。
- 持续改进：通过使用更多的数据进行训练，AI 模型的准确性也在持续增高。当边缘 AI 应用程序遇到无法准确或确信处理的数据时，其通常会上传数据，以使 AI 能够重新训练并从中学习。模型在边缘生产中存在的时间越长，该模型的准确性就会越高。
边缘 AI 技术的运作方式是什么？
对机器来说，要看到事物、执行物体检测、驾驶汽车、理解语言、进行对话、行走或以其他方式模仿人类技能，它们就需要在功能上复制人类的智能。
AI 采用名为深度神经网络的数据结构来复制人类的认知。经过训练后的 DNN 能够通过展示特定类型的问题的多个示例以及正确答案的方式来回答此类型的问题。
这种训练过程被称为“深度学习”，通常在数据中心或云端运行，因为训练一个准确的模型需要大量数据，还需要数据科学家协作配置模型。经过训练后，模型毕业生将成为一个能够回答现实世界问题的“推理引擎”。
在边缘 AI 部署中，推理引擎会在相隔遥远的某种类型的计算机或设备上运行，例如工厂、医院、汽车、卫星和家中。AI 遇到问题时，系统通常会将棘手的数据上传至云端以进一步训练原始 AI 模型，而在某些情况下，原始 AI 模型会取代边缘推理引擎。这种反馈回路在提升模型性能方面发挥着重要的作用；边缘 AI 模型在部署后只会变得越来越智能。
AI 是当代性能强大的技术力量 我们如今所处的时代，正是 AI 革新全球大型行业的时代。
在制造、医疗健康、金融服务、交通运输、能源等领域，边缘 AI 正在推动各行各业的达成新业务成果，包括：
- 能源行业中的智能化预测：对于像能源这样的关键行业，非连续性供应可能会普通人群的健康和福利造成威胁，所以智能化预测尤为重要。借助边缘 AI 模型，我们能够将历史数据、天气模式、电网运行状况以及其他信息结合起来，以创建复杂的模拟，从而帮助客户实现更高效的能源生产、分配和管理。
- 制造业中的预测性维护：使用传感器数据，我们能够尽早检测到异常情况并预测机器会在何时发生故障。设备上的传感器会扫描缺陷，并在机器需要维修时向管理层发出警报，以便尽早解决问题，从而避免成本高昂的宕机时间。
- 医疗健康中的 AI 仪器：边缘上的现代医疗仪器正在通过使用超低延迟直播手术视频的设备逐步更新为支持 AI 的仪器，从而实现微创手术并按需获取见解。
- 零售业中的智能虚拟助理：零售商希望通过引入语音订购来取代基于文本的搜索，从而改善数字化的客户体验。借助语音订购，购物者可以使用智能扬声器或其他智能移动设备轻松搜索商品、获取产品信息并进行订购。
云计算在边缘计算中发挥什么作用？
AI 应用程序可以在数据中心（例如，公有云中的数据中心）中运行，也可以在靠近用户的网络边缘现场运行。云计算和边缘计算两者各有优势，可以在部署边缘 AI 时结合使用。
云端能够提供与基础架构成本、可扩展性、高利用率、服务器故障恢复和协作相关的优势。边缘计算可提供更快的响应时间、更低的带宽成本和网络故障恢复力。
云计算可以通过以下多种方式为边缘 AI 部署提供支持：
- 云端可以在模型训练期间运行模型。
- 云端可以在模型在使用来自边缘的数据进行重新训练时继续运行模型。
- 在高计算能力比响应时间更重要时，云端可以运行 AI 推理引擎来作为对现场模型的补充。例如，语音助手可能会对其名称作出响应，但会将复杂的请求发送回云端进行解析。
- 云端会提供最新版本的 AI 模型和应用程序。
- 借助云端软件，同一边缘 AI 经常在现场设备组中运行
详细了解混合边缘架构的最佳实践。
边缘 AI 的未来
得益于神经网络的商业化成熟、物联网设备的激增、并行计算和 5G 的进步，我们现在已经为广义机器学习提供了稳健的基础架构。这使企业能够利用这一巨大的机会将 AI 引入其业务领域并根据实时见解采取行动，同时降低成本、提高隐私性。
目前我们还只是处于边缘 AI 的早期阶段，而且可能的应用似乎无穷无尽。
查看部署边缘 AI 的首要考虑因素，了解您的组织应如何部署边缘 AI。