云计算与边缘计算大白话(●一●)

阿里云国内75折回扣微信号：monov8

阿里云国际，腾讯云国际，低至75折。AWS 93折免费开户实名账号代冲值优惠多多微信号：monov8 飞机：@monov6

一、云计算和云原生概念

1.1 云计算

云计算cloud computing是分布式计算的一种指的是通过网络“云”将巨大的数据计算处理程序分解成无数个小程序然后通过多部服务器组成的系统进行处理和分析这些小程序得到结果并返回给用户。云计算早期简单地说就是简单的分布式计算解决任务分发并进行计算结果的合并。因而云计算又称为网格计算。通过这项技术可以在很短的时间内几秒钟完成对数以万计的数据的处理从而达到强大的网络服务。

从广义上说云计算是与信息技术、软件、互联网相关的一种服务这种计算资源共享池叫做“云”云计算把许多计算资源集合起来通过软件实现自动化管理只需要很少的人参与就能让资源被快速提供。也就是说计算能力作为一种商品可以在互联网上流通就像水、电、煤气一样可以方便地取用且价格较为低廉。

因此云计算并不是指某一种计算方式而是一种商业服务模式“云”就像自来水厂一样我们可以随时接水并且不限量按照自己家的用水量付费给自来水厂就可以。

1.2 云原生

云原生是基于分布部署和统一运管的分布式云以容器、微服务、DevOps等技术为基础建立的一套云技术产品体系。云原生是一种新型技术体系是云计算未来的发展方向。

二、云计算四个层次

2.1 IaaS(Infrastructure as a Service)

基础设施即服务提供给用户的服务是对所有设施的利用包括处理、存储、网络和其他基本的计算资源。用户能够部署和运行任意软件包括操作系统和应用程序。用户不管理或控制任何云计算基础设施但能控制操作系统的选择、储存空间、部署的应用也有可能获得有限制的网络组件例如防火墙、负载均衡器等的控制。

也就是说作为云计算的最底层服务IaaS提供的是一些基础资源用户可以在这些基础资源的基础上部署自己的操作系统和应用程序类似于在毛坯房的基础上进行装修。

2.2 PaaS(Platform as a Service)

平台即服务提供给用户的服务是把客户开发或收购的应用程序部署到供应商的云计算基础设施上。用户不需要管理或控制底层的云基础设施包括网络、服务器、操作系统、存储等但用户能控制部署的应用程序也可能控制运行应用程序的托管环境配置。

也就是说这层服务提供的是一个软件部署平台只需考虑应用程序的部署类似于在硬装的基础上进行软装。

2.3 SaaS(Software as a Service)

软件即服务提供给用户的服务是运营商运行在云计算基础设施上的应用程序用户可以在各种设备上通过客户端界面访问。客户不需要管理或控制任何云计算基础设施。

也就是说这层服务已经部署好了应用程序用户可以直接进行使用类似于拎包入住。

2.4 DaaS(Data as a Service)

数据即服务是大数据时代的象征通过收集用户需要的数据进行数据分析为用户提供访问接口传递有用的信息来指导用户的日常活动。

三、云原生关键技术

3.1 Docker

一个开源的应用容器引擎开发者可以打包他们的应用及依赖到一个可移植的容器中可运行在Debian、CentOs、Ubuntu等多操作系统上也可实现虚拟化。

3.2 Kubernetes

又称K8S是一个开源、轻量级的容器编排工具可以实现容器集群的自动化部署、弹性伸缩、维护、负载均衡等功能支持许多容器化工具如Docker。二者区别是Docker在单个节点上运行而Kubernetes在集群上运行。K8S所包含的组件如下

Master Node

api-server所有服务访问的统一入口。

controller manager维持副本期望数目创建/删除pod高可用集群副本数最好≥3 (奇数个)。

scheduler监听PodSpec.NodeName为空的字段选择合适的节点分配任务将节点和pod绑定binding分为预选和优选两个阶段

ETCD键优先级函数名称值权重存储库存储K8S集群所有配置信息持久化可用于恢复数据。版本v2使用内存v1.11版本之前v3使用数据库。

Work Node

kubelet跟容器引擎交互创建对应容器维持pod生命周期。

kube-proxy写入规则至iptables中小规模、IPVS大规模实现服务映射访问。

container主流引擎Docker。

3.3 微服务

低耦合+高内聚从本质上来讲微服务就是把单体应用拆分成数个更微小的服务协作完成原来单体应用所提供的等效业务服务。因此服务与服务之间会有依赖关系服务也需要去部署到一个或多个资源上。但这就出现一个问题不同微服务间存在异构需要不同的编程语言甚至不同的运行环境去运行这些微服务为了解决这个问题引入容器技术通过一层标准的封装以及标准的运行时来标准化微服务部署再由容器平台把已经标准化的微服务最便捷地运行到底层资源上面。

一个 pod 是一组容器的集合在一个 pod 中可以运行一个或多个容器。一般来讲当我们采用微服务架构时会把微服务的主体运行在主容器中主容器的生命周期跟 pod 自身的生命周期是一个耦合的状态。

3.4 DevOps

DevOpsDevelopment和Operations的组合词是一组过程、方法与系统的统称用于促进开发应用程序/软件工程、技术运营和质量保障QA部门之间的沟通、协作与整合。

它是一种重视“软件开发人员Dev”和“IT运维技术人员Ops”之间沟通合作的文化、运动或惯例。透过自动化“软件交付”和“架构变更”的流程来使得构建、测试、发布软件能够更加地快捷、频繁和可靠。

它的出现是由于软件行业日益清晰地认识到为了按时交付软件产品和服务开发和运维工作必须紧密合作。

四、边缘计算和边缘设备

4.1 边缘计算

随着移动互联网的蓬勃发展物联网设备的种类和数量都在飞速增长为满足计算任务“低时延、高带宽、低能耗”等需求边缘计算应运而生即将运算资源从云下放到网络边缘设备端的部分计算任务可以选择卸载到更靠近设备的边缘端来执行这其实是对云计算的补充和扩展常使用“端-边-云”三层架构。和仅有云计算相比云边协同具有如下几方面优势1)缓解骨干网络分布式边缘计算节点无需与云端交换相应的数据即可处理大量的计算任务从而减轻网络流量负荷2)服务响应敏捷可以避免由于将任务卸载到远程云端上而导致的高延迟提高响应速度3)云备份强大云端可以在边缘计算能力无法承受的时候提供强大的处理能力和海量存储空间。

4.2 边缘智能

目前边缘计算正在逐渐与人工智能相结合进而衍生出“边缘智能”和“智能边缘”两个概念。边缘智能即将深度学习的计算任务从云下放至边缘以支持低延迟、高可靠、分布式的智能服务智能边缘即是将深度学习融入边缘以支持动态、自适应的资源分配与管理不仅有效整合了终端设备、网络边缘与云数据中心的多种资源也能支持更为复杂的业务优化与任务协作。两者并不是相互独立的边缘智能是其目标智能边缘中的深度学习服务也是边缘智能的一部分智能边缘可以为边缘智能提供更高的服务吞吐量和资源利用率。两者间存在以下五种典型的使能技术

(1)边缘上的深度学习应用(DL on Edge)

(2)边缘上的深度学习推理(DL in Edge)

(3)边缘上的深度学习训练(DL at Edge)

(4)适用于深度学习的边缘计算(Edge for DL)

(5)深度学习用于边缘计算优化(DL for Edge)。

4.3 边缘设备

对于边缘设备的概念网上介绍的都很模糊个人是这么理解的在网络边缘为云计算分担计算任务的设备都可以叫做边缘设备。边缘设备可以分为两种类型一种是嵌入了AI芯片或可以进行部分深度学习计算的设备如手机、智能摄像头等这类边缘设备也可以叫做终端设备另一种是部署在终端设备附近对终端设备传来的视频或图像进行深度学习处理的设备即此时的边缘设备没有自主计算的能力如VR眼镜、监控摄像头等这类边缘设备可以是含有GPU的边缘服务器或端侧的私有云。大致框架如下

英伟达公司针对边缘计算推出了Jetson家族包括Nano、TX2、Xavier等嵌入式边缘计算设备它们之间的性能比较如下表

	AI Performance	CPU	GPU	Memory
Nano	472 GFLOPs	Quad(4)-Core ARM Cortex-A57 MPCore	128-core Maxwell GPU	4 GB 64-bit LPDDR4 @25.6GB/s
TX2	1.33 TFLOPs	Hexa(6)-core processor with 2x NVIDIA Denver2 64-Bit CPU and 4x ARM Cortex-A57 cores	256-core Pascal GPU	8 GB 128-bit LPDDR4 @59.7GB/s
Xavier NX	21 TOPs	6-core NVIDIA Carmel ARMv8.2 64-bit CPU 6 MB L2+4 MB L3	Volta GPU with 384 NVIDIA CUDA cores and 48 Tensor cores	8 GB 128-bit LPDDR4 @51.2GB/s