地理信息云平台规划及运营
Google2004年提出的MapReduce,
MapReduce 在Google应
而Hadoop对其进行了开源实现(中国 用较为成熟,很多应用基于
移动大云基于Hadoop )。微软则通过 此架构,但MapReduce主
Dryad平台进行分布式系统应用搭建。 要应用于互联网行业。
3.国内厂家也针对并行计算开发了自己
IBM的虚拟化技术,可实 现分区动态资源调整,可实 现资源的灵活调配。
VMWare可实现IDC业务 容灾。
虚拟化技术面向硬件资源 层面,虚拟机对数据库兼容 性较好、无特殊要求
1.广义而论,传统的负载均衡技术、
Oracle Rac技术均属于并行计算范畴。 负载均衡、Rac在业界已
2.云计算最早采用的并行计算技术应是 应用多年。
硬件虚拟化:把虚拟硬件仿真方面的部分繁重任务从软件转移到了 硬件,并且把某些内存管理功能转移到了用软件处理的CPU微代码
里面。
云计算关键技术(二)---并行计算技术
并行计算技术
一种将很多计算同时进行的计算技术,其前提是较大问题往往 可以被分解为一组小问题并同时执行。
自动并行化:系统自动进行 作业并行化处理,简化编程 难度 自动可靠处理:系统自动处 理节点/任务的故障检测和 恢复 灵活扩展:节点可以灵活加 入和退出,系统自动感知节 点状态并进行处理 高性能:计算任务将被调度 至数据所在的节点,减少网 络开销,提升执行性能
地理信息云平台规划及运营
曾为
目录
1 云计算关键技术及架构分析 2 GIS云平台背景及规划建议 3 GIS云平台演进及成本估算 4 GIS云平台运营及商业模式
云计算的定义
能够将分布于多 个地点的资源进 行整合,提供统 一的资源共享, 并能在各物理地 点间实现负载均 衡
一个云计算系统由具备一定 规模的多个节点组成的IT集 群系统,系统规模几乎可以 无限扩大
Resource Scaling
Hypervisor Optimization
Dynamic Provisioning
计算与 Unified 存储平台 Fabric
并行计算
数据中心安全性:可信赖、 完整性、可用性
自动并行化:系统自动进行作
业并行化处理,简化编程难度
灵活扩展:节点可以灵活加入 和退出,系统自动感知节点状 态并进行处理
Page 4
云计算关键技术(一)---服务器虚拟化1/2
服务器虚拟化
在物理服务器基础上构建多个相互独立的虚拟服务器 从而将CPU、内存、I/O等服务器物理资源转化为一组统一管理, 可灵活调度、动态分配的逻辑资源
云计算关键技术(一)---服务器虚拟化2/2
服务器虚拟化分类
完全虚拟化:采用虚拟软件(如Hypervisor )的方式,在虚拟服务 器和底层硬件之间建立一个抽象层,在完全虚拟化的环境下,软件 运行在裸硬件上,充当主机操作系统,而由管理的虚拟服务器运行 客户端操作系统(guest os) 。 准虚拟化:与完全虚拟化相比,准虚拟化需要对操作系统在核心层 面进行修改,减轻了处理器的负担,以降低额外损耗,从而提供比 完全虚拟化技术更高的效率。 操作系统层虚拟化 :基于共用操作系统,没有独立的hypervisor层, 所以它提供了一个更瘦的架构体系。主机操作系统本身负责在多个 虚拟服务器之间分配硬件资源,并且让这些服务器彼此独立。
原有基于本地文件系统,改造困 难,对IO性能要求不高的应用
分布式对 象存储
以Key-Value方式实现的 分布式对象存取
Key-Value方式的存取、支持对象 属性、面向对象开发友好、海量存
储、高可靠性。
面向对象开发,非关系型数据存 取,对IO性能要求不高的应用
分布式块 存储
设备级的分布式存储技术, 提供系统透明的块设备, 可格式化为任意文件系统
Hadoop HDFS技术,可 实现分布式对象存储、分布 式块存储。
云计算是一种利用大规模低成本运算单元通过IP网络连接,以提供各种 计算服务的IT技术。
云计算技术体系—关键技术
虚拟化软件:高性能、高可 靠性、智能调度算法
虚拟化的硬件加速 虚拟化技术提高资源利用率
云计算服务器和存储:大 内存、高网络/存储IOPS、 简化设计
虚拟化及 资源调度平台
数据中心的一体化自动管控 分布式计算/存储框架 分布式计算存储提升可靠性
云计算关键技术(三)---云存储技术
云存储技术
每个模块都是一个离散的处理单元,所有的模块都通过一个 可扩展的网络进行连接。 其具有易管理、低成本、高扩展的特性。 云存储技术分类
分类
描述
特性
适用场景
分布式文 件存储
文件级分布式存取技术
与文件系统兼容的文件访问和权限 控制机制、可直接挂载到本地文件
系统、海量存储、高可靠性。
的管控软件,如天云科技、华为等。
从技术上可分为分布式文件存储、 分布式对象存储、分布式块存储。
分布式文件系统代表技术为Google GFS、Hadoop HDFS。
分布式对象存储代表技术为Google BigTable、Hypertable、HBase
分布式块存储代表技术为Symentac CFS( Cluster )、EMC VMax/VPlex 等
大规模
平滑扩展
系统具备高度的扩展性和 弹性,可以方便、快速地 为应用增加和减少资源
跨地域 动态分配
资源共享
实现资源的按需动态分配,并 按使用量计费
提供一种或多种形式的 资源池,包括物理服务 器,虚拟服务器(虚拟 机),事务和文件处理 能力或任务进程(如 Hadoop),以及存储资 源等。这些资源池可通 过抽象化方式实现,并 能够同时为多种应用提 供服务
以模拟块设备(如硬盘)设备接口 方式提供服务,连续存储空间,高 IO性能,海量存储、高可靠性。
对IO性能要求高的应用,如数据 库系统,可适应多种应用场景
云计算关键技术分析
技术 名称
虚拟 化
并行 计算
云存 储
代表产品
技术分析
Байду номын сангаас
以平台划分可分为Unix和x86两类虚拟 化产品 1.Unix下虚拟化产品多为设备厂商提供 的专用虚拟化技术,如各厂商的分区 技术、IBM的PowerVM技术 2.X86平台下包括操作系统厂家提供的 虚拟化产品(如微软的Hyper-V和 RadHat的KVM)和第三方厂家提供的 虚拟化产品(如VMWare vSphere)