云计算期末考试总结Engine。

什么是SaaS？它的针对性更强，它将某些特定应用软件功能封装成服务，如Salesforce公司提供的在线客户关系管理CRM服务。

云计算技术体系结构分为四层：物理资源层、资源池层、管理中间件层和SOA构建层（管理中间件层和资源池层是云计算技术的最关键部分）物理资源层包括计算机、存储器、网络设施、数据库和软件。

资源池层是将大量相同类型的资源构成同构或接近同构的资源池，如计算资源池、数据资源池。

构建资源池更多的是物理资源的集成和管理工作。

管理中间件层负责对云计算的资源进行管理，并对众多应用任务进行调度，使资源能够高效、安全地为应用服务。

大数据具有4V+1C的特征：（1）、数据量大（2）、多样（3）、快速（4）、价值密度低（5）、复杂度全球企业的IT开销分为三部分:硬件开销、能耗和管理成本。

云计算的优势：云计算有更低的硬件和网络成本、更低管理成本和电力成本以及更高的资源利用率。

云计算与大数据之间的关系：大数据是需求，云计算是手段。

没有大数据，就不需要云计算。

没有云计算就无法处理大数据。

什么是云计算：长定义：云计算是一种商业计算模型。

它将计算任务分布在大量计算机构成的资源池上，使各种应用系统能够根据需要获取计算力、存储空间和信息服务。

短定义：云计算是通过网络按需提供可动态伸缩的廉价计算服务。

云计算的管理中间件层:负责资源管理、任务管理、用户管理、和安全管理等工作。

资源管理:负责均衡地使用云资源节点，检测节点的故障并试图恢复或屏蔽它，并对资源的使用情况进行监视统计；任务管理:负责执行用户或应用提交的任务，包括完成用户任务映像部署和管理、任务调度、任务管理、生命周期管理。

简述亚马逊的云计算：AWS率先在全球提供了弹性计算云EC2和简单服务存储服务S3，为企业提供计算和存储服务。

亚马逊是最大的服务商，谷歌是最大的云计算技术的使用者。

第二章Google云计算技术包括：Google文件系统 GFS、分布式计算编程模型MapReduce、分布式锁服务Chubby、分布式结构化数据表Bigtable。

当前主流分布式文件系统有哪些?各有什么优缺点？答：RedHat的GFS（Global File System）、IBM的GPFS、Sun的Lustre等。

优缺点：①GFS采用廉价的商品机器构建分布式文件系统，同时将GFS的设计与Google应用的特点紧密结合，简化实现，GFS将容错的任务交给文件系统完成，利用软件的方法解决系统可靠性问题，使存储成本下降；GFS将服务器故障视为正常现象，并采用多种方法、从多个角度，使用不同的容错措施，确保数据存储的安全、保证提供不间断的数据存储服务。

②IBM GPFS并行文件系统软件在设计上不存在任何性能瓶颈，因此GPFS并行文件系统可以充分发挥硬件系统的性能。

换句话说，GPFS并行文件系统的性能完全取决于硬件配置的好坏，而文件系统软件本身对性能的影响微乎其微。

IBM GPFS并行文件系统与其它并行文件系统之间最大的区别在于GPFS不需要专用的元数据（Meta Data）管理服务器，所有元数据分散在磁盘阵列中，并可以由任何I/O节点管理。

这样的设计避免了并行文件系统中最可能产生性能瓶颈的因素Meta Data Server。

③Lustre文件系统为例，它只对元数据管理器MDS提供容错解决方案，而对于具体的数据存储节点OST来说，则依赖其自身来解决容错的问题。

例如，Lustre推荐OST节点采用RAID技术或SAN存储区域网来容错，但由于Lustre自身能提供数据存储的容错，一旦OST发生故障就无法恢复，因此对OST的稳定性就提出了相当高的要求，从而大大增加了存储的成本，而且成本会随着规模的扩大线性增长GFS容错机制包含：1、Master容错:Master上保存了GFS文件系统的三种元数据。

（1）、命名空间，也就是整个文件系统的目录结构。

（2）、Chunk与文件名的映射表（3）、Chunk副本的位置信息，每一个Chunk默认有三个副本。

前两种GFS通过操作日志来提供容错功能。

第三种直接保存各个Chunk Server上，当master发生故障时，迅速恢复以上元数据。

为了防止master彻底死机，GFS提供了master远程的实时备份。

2、Chunk Server容错：GFS采用副本的方式实现其容错。

如果相关副本丢失或不可恢复，master自动将副本复制到其他Chunk Server、GFS把每一个文件划分成多个Chunk,MapReduce与传统的分布式程序设计相比的优点答：与传统的分布式程序设计相比，MapReduce封装了并行处理、容错处理、本地化计算、负载均衡等细节，还提供了一个简单而强大的接口。

Chubby的设计目标主要有？Paxos算法在Chubby中起什么作用?（1）、高可用性（2）、高扩展性（3）、支持粗粒度的建议性锁服务（4）、服务信息的直接存储（5）、支持通报机制（6）、支持缓存机制。

Chubby内部一致性问题的实现用到Paxos算法什么是分布式结构化数据表Bigtable？Bigtable是Google开发的基于GFS和Chubby的分布式存储系统，它的设计应达到以下几个目标：（1）、广泛的适用性（2）、很强的可扩展性（3）、高可用性（4）、简单性Bigtable是:一个分布式多维映射表，表中的数据通过一个行关键字、一个列关键字以及一个时间戳进行索引。

在Bigtable中Chubby主要有以下几个作用：（1）选取并保证同一时间内只有一个主服务器（Master Server）（2）获取子表的位置信息（3）保存Bigtable的模式信息及访问控制列表Bigtable 主要由三个部分组成：客户端程序库、一个主服务器和多个子表服务器Paxos算法中节点被分成了三种类型：proposers、acceptors、和learners,其中proposers提出决议，acceptors 批准决议、learners获取并使用已经通过的决议。

一个节点可以兼有多重类型，满足三个条件保持数据的一致性，（1）、决议只有在被Proposers提出后才能批准（2）、每次只能批准一个决议（3）、只有决议确定被批准后learners才能获取这个决议。

Bigtable性能优化：1、局部性群组2、压缩3、布隆过滤器GFS将整个系统的节点分为哪几类角色：Client(客户端)、Master(主服务器)、Chunk Server(数据块服务器)。

Master是GFS的管理节点，在逻辑上只有一个，他保存系统的元数据，负责整个文件系统的管理，是GFS文件系统中的“大脑”。

Chunk Server负责具体的存储工作。

数据以文件的形式存储在Chunk Server 的个数可以有多个，他的数目直接决定了GFS 的规模。

GFS将文件按照固定大小进行分块，默认是64MB，每一块称为一个Chunk(数据块)，每个Chunk都有一个对应的索引号（Index）。

GFS具有哪些特点：1、采用中心服务器模式：GFS采用中心服务器模式管理整个文件系统，增加新的Chunk Server是一件非常容易的事情。

2、不缓存数据：缓存机制是提升文件系统的性能的一个重要手段，通用文件系统为了提高性能，一般需要实现复杂的缓存机制。

GFS文件系统根据应用的特点，没有实现缓存，因为GFS的数据在Chunk Server上是以文件的形式存储。

3、在用户态下实现4、只提供专用接口什么是MapReduce?Map（映射）Reduce （化简）是Google提出的一个软件架构，是一种处理海量数据的并行编程模式，用于大规模数据集的并行计算。

第三章AWS提供的服务包括：弹性计算云EC2、简单存储服务S3、简单数据库服务Simple DB、简单队列服务SQS、弹性MapReduce服务、内容推送服务、电子商务服务、FPS。

改进的一致性哈希算法优点：可以减小数据分布不均衡的可能性。

采用数据分区后，在添加或删除设备节点时，会引起娇小的数据传输。

可以在很小的数据传输代价下，保证整个系统数据分布的均衡性。

在Dynamo中添加一个新的节点时，原先各节点保存的数据是否需要改变？如果改变，应该如何变化？需要改变；原存储在前驱节点上的那部分数据会迁移到新的节点上。

而其他节点保存的数据不变。

同样，在删除节点时，被删除节点的数据会迁移到其前驱节点上，而对其他节点没有影响。

私有IP、公有IP和弹性IP的区别在哪里？EC2的IP地址包括三大类:私有IP、公有IP和弹性IP。

EC2的实例一旦被创建,就会动态地分配两个IP地址,即私有IP和公有IP。

私有IP地址与实例相对应,由动态主机配置协议(DHCP)分配产生。

公有IP 地址和私有IP地址之间通过网络地址转换(NAT)技术实现相互之间的转换。

公共IP和特定的实例相对应，在某个实例终结或被弹性IP地址替代之前，公共IP地址会一直存在，实例通过这个公有IP地址和外界通信。

实例每次启动时,公有IP都会发生变化。

弹性IP则是与用户账号绑定,使用时可以代替公有IP通过NAT的方式实现与私有IP转换,从而连接到EC2实例。

地理区域和可用区域有哪些区别？AWS中采用了两种区域(Zone),地理区域( Region Zone)和可用区域( Availability Zone)。

地理区域是按实际的地理位置划分的。

可用区域是根据是否有独立的供电系统和冷却系统划分,通常将每个数据中心看作一个可用区域。

EC2系统中包含多个地理区域,而每个地理区域又包含多个可用区域。

Amazom云平台中，SQS的目的及组成部分，其中“消息”的格式是什么？简单队列服务（SQS）是Amazon为了解决其云计算平台之间不同组件的通信而设计开发的。

SQS由三个基本部分组成：系统组件、队列、消息。

系统组件是SQS的服务对象，而SQS则是组件之间沟通的桥梁。

组件有双重角色，既是消息的发送者，也可以是消息的接受者。

“消息”格式：消息由以下四部分组成：消息ID：由系统返回给用户，用来标识队列中的不同消息。

接收句柄：当从队列中接收消息时就会从消息那里得到一个接收句柄，这个句柄可以用来对消息进行删除等操作。

消息体：消息的正文部分，需要注意的是消息存放的是文本数据并且不能是URL 编码方式。

消息体摘要：消息体字符串的MD5校验和。

非关系型数据库和传统关系数据库的区别1、数据模型关系数据库对数据有严格的约束，包括数据之间的关系和数据的完整性。

非关系数据库的key-value存储形式中，key和value可以使用任意的数据类型。

2、数据处理：关系数据库满足CAP原则的C和A，在P方面很弱，所以在可扩展性方面弱，所以导致其在可扩展性方面面临很多问题。