建网覆盖需要较长的时间周期。由于云计算依赖网络实现数据的传输，因此在以上场 景中难以提供可靠的服务。 （3）云计算的资源开销较大。 随着数据量的攀升，数据传输带来的网络流量开销也在逐渐加大，同时云计算中心的 计算、存储能力带来了极高的能耗，而这些开销并不是完全必要的。 （4）云计算难以保证用户隐私安全。 云计算处理的数据可能是包含用户隐私的，如家庭内的监控数据、工厂内的生产数据 等，尽管存在用户隐私协议等的约束，但服务提供商的数据实际使用情况是不透明的。
云端智能技术
在面向物联网、大流量等场景中，为了满足更广连接、更低时延、更 好控制等需求，云计算向一种更加全局化的分布式结点组合形态进阶， 边 缘 计 算 是 其 向 边 缘 侧 分 布 式 拓 展 的 新 触 角 。 信 通 院 在 Global Management Framework of Distributed Cloud发布基于中心云 与边缘云形成的分布式一体化形态上构建全局化云端智能框架，如图 所示。
机器智能技术
端侧推理框架：
TVM是适用于CPU、GPU和专用加速器的开放式深度学习编译器堆栈，旨在 缩小以生产力为重点的深度学习框架与面向性能或效率的硬件后端之间的差 距。TVM工作栈如图所示。其中，高层IR层是基于计算图的表示，计算图是 有向非循环图，图的结点表示计算，图中的边表示数据流。低层IR层用于优 化计算内核，允许将操作属性添加到计算图中并指定转换规则，对计算图进 行迭代优化计算。
性高、隐私要求高、网络带宽受限的场景。 边缘智能介于终端智能和云端智能之间，适用于区域内多终端协同工作的场
景，如智慧家庭、智慧社区、智慧工厂、5G车联网和智能交通等。 在云端智能模式下，所有的数据将统一汇聚到云中心结点中进行处理分析，
其更适用于实时性、隐私性要求不高的场景，如全局数据分析、离线分析等。 此外，很多场景需要机器智能、边缘智能、云端智能的协同实现。
阔。 （1）低时延、高可靠的应用场景，如自动驾驶。 （2）注重数据隐私的内容更适宜在本地处理，如智慧家庭。 （3）功耗要求高或网络不稳定的应用场景更需要在本地处理，如智能穿戴设
备。
物联网泛在智能发展趋势
物联网场景下泛在智能的发展需Fra bibliotek：2．边缘智能的需求分析 边缘智能可实现边缘侧数据资源、计算资源、设备资源的智能协同，可应用
“端-边-云”泛在智能发展
物联网泛在智能发展趋势
物联网+边缘计算的发展分类：
按照智能服务的承载载体，物联网边缘计算可分为机器智能、边缘智能和云 智能3类：
机器智能指AI智能服务承载在终端设备侧，如人脸识别摄像头，其基于自身 的计算与存储资源，并在端侧承载人脸识别算法，实现端侧人脸特征的提取 甚至识别。
14.1 物联网泛在智能发展趋势
物联网泛在智能发展趋势
物联网+边缘计算的发展背景：
云计算是一种集中式服务，所有数据都通过网络传输到云计算中心进 行处理。资源的高度集中与整合使得云计算具有很高的通用性，然而， 面对物联网设备和数据的爆发式增长，基于云计算模型的聚合性服务 逐渐显露出了其在实时性、网络制约、资源开销和隐私保护上的不足。
物联网概论 Introduction to Internet of Things
| 第14章 物联网与边缘计算 |
本章知识点
✔学习完本章后，应当掌握如下知识：
14.1 物联网泛在智能发展趋势 14.2 边缘计算协同系统架构 14.3 机器智能技术 14.4 边缘智能技术 14.5 云端智能技术 14.6 边缘计算典型服务模式
14.3 机器智能技术
机器智能技术
AI专用芯片发展：
AI的蓬勃发展离不开技术的进步，尤其是近几年AI专用芯片的发展，大大缩 短了模型训练周期，为AI的快速发展提供了支持。
例如，谷歌在2016年首次公布了TPU计算架构，相对于CPU和GPU，其性 能更强，同年7月，谷歌发布了Edge TPU，专门用于边缘计算，功耗更低。 英 伟 达 在 2017 年 正 式 发 布 了 Tesla V100 ， 加 入 了 专 门 用 于 深 度 学 习 的 Tensor Core，相对于过去的GPU，加入了Tensor Core的GPU更适合处理 深度学习任务。
“端-边-云”协同智能系统架构
边缘计算协同系统架构
物联网场景下的云边计算协同处理模式：
物联网中的设备会产生大量的数据，若数据都上传到云端进行处理，会对云端造成巨 大的压力，为分担中心云结点的压力，边缘计算结点可以负责自己范围内的数据计算 和存储工作。物联网场景下的云边计算协同处理架构如图所示。
物联网场景下的云边计算协同处理架构
基本共识：在更靠近终端的网络边缘上提供服务。
物联网泛在智能发展趋势
物联网+边缘计算的发展态势：
电信网时代：“中心-边缘-端”的组网架构；互联网时代：数据中心、内容分发网络 （Content Delivery Network，CDN）、移动电话/PC延续了这种形态；物联网+ 边缘计算时代：云计算中心、小数据中心/网关、传感器则形成了新的“端-边-云”形 态。“端-边-云”泛在智能发展如图所示。
边缘智能指AI智能服务部署在边缘侧，如智能网关、边缘服务器、算力盒子 等。
云智能指AI智能服务部署在云计算中心，基于大量的计算、存储资源进行海 量数据分析。
物联网泛在智能发展趋势
物联网场景下泛在智能的发展需求：
1．机器智能的需求分析 机器智能技术具备低时延、高可靠、保护隐私、低功耗等特点，应用场景广
边缘计算协同系统架构
物联网场景下的云边计算协同处理模式：
2．边缘计算层 边缘计算层位于终端设备与云端之间，其由网络边缘结点组成。边缘结点可
以是智能终端设备本身，如智能手环、智能摄像头等，也可以被部署在网络 连接中，如网关、路由器等。显然，边缘结点的计算和存储资源是差别很大 的，并且边缘结点的资源是动态变化的，如智能手环的可使用资源是随着人 的使用情况动态变化的。因此，如何在动态的网络拓扑中对计算任务进行分 配和调度是值得研究的问题。边缘计算层通过对网络边缘侧计算和存储能力 的合理部署及调配，实现基础服务响应。
（1）云计算难以保证实时性。 云计算模型将全部数据上传至云计算中心进行处理，其处理速度受到
网络带宽、中心计算能力、总计算任务量等多个因素的影响，且请求 至响应的链路较长，各个环节的时延累积可能造成无法接受的处理时 延。
物联网泛在智能发展趋势
物联网+边缘计算的发展背景：
（2）云计算对网络环境过度依赖。 我国4G网络覆盖率超过95%，但仍存在着覆盖盲区。5G网络具有低时延的优势，但其
物联网泛在智能发展趋势
边缘计算的概念：
为了弥补云计算集中式服务的不足，边缘计算的概念应运而生。边缘计算是云计算概 念的延伸，二者是相依而生、协同运作的。
欧洲电信标准化协会认为边缘计算在移动网络边缘提供IT服务环境和计算能力，强调靠 近移动用户，以降低网络操作和服务交付的时延，提升用户体验。
Gartner认为边缘计算描述了一种计算拓扑结构，在这种拓扑结构中，信息处理、内容 采集和分发均被置于距离信息更近的源头处完成。
TVM工作栈
14.4 边缘智能技术
边缘智能技术
行为数据融合分析：
行为识别主要的实现方式对比如表所示，每种实现方式都有其各自的特点与 问题。
边缘智能技术
多源数据融合分析：
多源数据融合分析可以采用特征级数据融合方式、决策级数据融合方式等。 特征级数据融合方式如图所示，先对边缘侧多源数据进行特征集的融合，再
全局化云端智能框架
14.6 边缘计算典型服务模式
边缘计算典型服务模式
ICT服务商将云计算能力逐步扩展到边缘设备：
在国际上，云计算巨头Amazon、Microsoft和Google都已经推出了推出了相应的边缘计算产品。例如，华为在2018年推出了IEF平台， 通过纳管用户的边缘结点，提供将云上应用延伸到边缘的能力，联动边缘和 云端的数据，为企业提供完整的、边缘和云协同的一体化服务边缘计算解决 方案。
该类推理框架主要针对智能手机终端，近年来有了比较大的发展。 ③ 面向特定芯片的推理框架，如TensorRT、nGraph、ARM NN、SNPE等，
代表了芯片厂商对自身芯片AI能力的优化。 ④ 面向更广泛的资源受限的物联网终端的推理框架，如TVM、ONNX、GLOW、
NCNN等，上述框架通常具有对前端训练框架的转换、模型优化和适应端侧部署 等优势。
边缘计算协同系统架构
物联网场景下的云边计算协同处理模式：
1．云端层 云端层由各种物联网终端设备组成，主要完成收集原始数据并上报的功能。
在云端层中，只考虑各种物联网终端设备的感知能力，而不考虑它们的计算 能力。云端层的数十亿台物联网终端设备源源不断地收集着各类数据，以事 件源的形式作为应用服务的输入。
基于融合后的数据，针对目标场景选择合适的机器学习算法模型进行训练。
特征级数据融合方式
边缘智能技术
多源数据融合分析：
决策级数据融合方式如图所示，分别基于单源的数据进行机器学习算法建模， 并得到行为识别分类结果，再通过对多个分类结果的融合，得到最终的识别 结果。
决策级数据融合方式
14.5 云端智能技术
维基百科认为边缘计算是一种优化云计算系统的方法，在网络边缘执行数据处理，靠 近数据的来源。
边缘计算产业联盟认为边缘计算是在靠近物或数据源头的网络边缘侧，融合网络、计 算、存储、应用核心能力的开放平台，就近提供边缘智能服务，满足行业数字化在敏 捷连接、实时业务、数据优化、应用智能、安全与隐私保护等方面的关键需求。
边缘计算协同系统架构
物联网场景下的云边计算协同处理模式：
3．云计算层 在云边计算的联合式服务中，云计算仍然是最强大的数据处理中心，边缘计
算层的上报数据将在云计算中心进行永久性存储，边缘计算层无法处理的分 析任务和综合全局信息的处理任务仍然需要在云计算中心完成。除此之外， 云计算中心可以根据网络资源分布动态调整边缘计算层的部署策略和算法。