浅析云计算系统的核心技术有哪些?云计算是分布式处理(Distributed Computing)、并行处理(Parallel Computing)和网格计算(Grid Computing)的发展,是透过网络将庞大的计算处理程序自动分拆成无数个较小的子程序,再交由多台服务器所组成的庞大系统经计算分析之后将处理结果回传给用户。
通过云计算技术,网络服务提供者可以在数秒之内,处理数以千万计甚至亿计的信息,达到和“超级计算机”同样强大的网络服务。
云计算系统的建设目标是将原来运行在PC上、或单个服务器上的独立的、个人化的运算转移到一个数量庞大的服务器“云”中,由这个云计算系统来负责处理用户的请求,并输出结果,它是一个以数据运算和处理为核心的系统。
一、云计算系统体系架构云计算系统架构模型可分为3层:访问层、应用接口层和基础管理层。
访问层包括个人空间服务、运营空间租赁;企事业单位或SMB实现数据备份、数据归档、集中存储、远程共享;视频监控、IPTV等系统的集中存储,网站大容量在线存储等。
应用接口层可以将云计算能力封装成一套标准的接口服务,包括网络(广域网或互联网)接入、用户认证、权限管理;公用API接口、应用软件、web service等。
基础管理层负责对云计算的资源进行管理,采用合适的算法调度资源,提供高效的服务,包括集群系统、分布式文件系统、并行计算等。
二、云计算系统的技术从云计算系统的架构模型,可以看出:对于开发一个云计算系统,必须掌握以下几点技术:高可靠的系统集群技术,并行计算技术,分布式文件系统,稳定舒适的终端等。
支撑云计算系统运行的是集群系统,由多台同构或异构的计算机连接起来协同完成特定的任务就构成了集群系统。
在这样的工作环境下就构成了计算的分布性,被解决的问题划分出的模块是相互关联的,若是其中一块算错了,那么必定会影响到其他模块,对于数据计算的准确性就要依赖集群系统了。
随着云计算的兴起,越来越多的人会考虑云计算系统中处理的数据的准确稳定问题。
采用高可靠的系统保护用户得到准确的数据才有利于公司的发展,更有利于云计算的发展,否则就会失去所有的客户。
为了自身的发展,云计算服务商首先得提供一套高可靠的计算机集群系统。
云计算系统核心技术:并行计算。
并行计算(Parallel Computing)是指同时使用多种计算资源解决计算问题的过程,是提高计算机系统计算速度和处理能力的一种有效手段。
它的基本思想是用多个处理器来协同求解同一问题,即将被求解的问题分解成若干个部分,各部分均由一个独立的处理机来并行计算。
并行计算系统既可以是专门设计的、含有多个处理器的超级计算机,也可以是以某种方式互连的若干台独立计算机构成的集群。
通过并行计算集群完成数据的处理,再将处理的结果返回给用户。
分布式文件系统的设计应满足透明性、并发控制、可伸缩性、容错以及安全需求等。
客户端对于文件的读写不应该影响其他客户端对同一个文件的读写。
分布式文件系统需要做出复杂的交互,尽量保证文件服务在客户端或者服务端出现问题的时候能正常使用是非常重要的。
分布式文件系统能提供备份恢复机制以保证了分布式处理的可靠性。
如Google的GFS(Google File System),隐藏下层负载均衡,冗余复制等细节,对上层程序只提供一个统一的文件系统API接口,中心是一个Master节点,根据文件索引,找寻文件块。
作为一个云计算系统,是为需要的人提供服务和计算,而服务和计算都在“云”中,“云”对用户来说是个黑盒子,用户可以看作一个云网络虚拟出来的操作系统,不需要知道它的内部实现,只需要根据“云”内的各种服务来实现自己的业务,而业务的使用和展现都在终端。
现阶段,通过浏览器几乎覆盖了所有的网络操作,浏览器现在已经成为了用户和“云”进行交互的主要工具,云计算系统通过浏览器向用户提供服务。
随着云计算的发展,当云计算运用到为非浏览器终端提供服务时,会出现非浏览器终端。
面对不同用户的需求,要开发不同的终端,提供更加高效的服务。
浅析云计算应用中应解决的四个问题2009-6-1 14:25:48文/责编:maxi出处:计世网工欲善其事,必先利其器。
云计算的前景虽然美好,然而还有不少的技术障碍亟需解决,主要包括高可靠的系统技术、可扩展的并行计算技术、海量数据的挖掘技术和数据安全技术。
1.高可靠的系统技术支撑云计算的是大规模的集群计算系统,当系统规模增大后,可靠性和稳定性就成为最大的挑战之一。
需要通过有效的系统配置、监控、管理、调度、虚拟化等技术,实现一个强大的、动态的、自治的计算存储资源池,提供云计算所需要的大容量计算力。
系统级的容错技术是系统技术方面的一个难点。
大量服务器进行同一个计算时,单节点故障不应影响应用的正常运行。
对类似数据检索这样计算节点间无通讯的应用,这一点比较容易实现。
但对那些有大量通讯的紧耦合类应用,当前业内仍无有效的系统级容错方案。
目前主要还是依赖应用层面的检查点和重启技术,一方面增加了开发的难度和工作量,另外一方面对运行性能也有一定的影响。
2.可扩展的并行计算技术并行计算技术是云计算的核心技术,也是最具挑战性的技术之一。
多核处理器的出现增加了并行的层次性能使得并行程序的开发比以往更难。
而当前业内并无有效的并行计算解决方案,无论是编程模型、开发语言还是开发工具,距离开发者的期望都有很大的差距。
自动的并行化解决方案在过去的30年间已经被证明基本是死胡同,但传统的手工式的并行程序开发方式又难以为普通的程序员所掌握。
Intel、微软、SUN、Cray等业内巨头正投入大量人力物力进行相关的研究,但真正成熟的产品在短期内很难出现。
可扩展性是云计算时代并行计算的主要考量点之一,应用性能必须能随着用户的请求、系统规模的增大有效的扩展。
当前目前大部分并行应用在超过一千个的处理器(核)上都难以获得有效的加速性能,未来的许多并行应用必须能有效扩展到成千上万个处理器上。
这对开发者是巨大的挑战。
3.海量数据的挖掘技术云计算面对的是TB乃至PB级的海量数据,如何从数据中获取有效的信息,这将是决定云计算应用成败的关键。
除了利用并行计算技术加速数据处理的速度外,还需要新的思路、方法和算法来完成更准确、快捷、强大的数据挖掘。
除了海量数据的挖掘,海量数据的存储和管理也将是一个巨大的挑战。
在云计算时代,数据库将面临严重的危机,要么将集群数据库有效扩展到成千上万个节点,要么它就会被类似于Google 文件系统这样的新技术所替代。
“数据库已死”,这个断言将成为可能。
4.数据安全技术将原本保存在本地、为自己所掌控的数据交给一个外部的云计算服务中心,这样一个改变并不容易。
网络技术的发展,使得带宽将不会成为主要障碍,安全性依旧是最重要的顾虑。
然而,如同早已习惯将钱存在银行一样,未来的数据银行必将会出现,只是时间的早晚问题。
技术其实不是最主要的障碍,制度、法规、诚信、习惯、观念,这些非技术的因素将决定云计算的受欢迎程度。
云计算技术浅析云计算用通俗的语言来论述就是:“云”就是基于网络的拥有大量的分布式计算机的计算机群。
也就是将所有的数据和计算通过网络让庞大的计算机群完成,而自己只需要屏幕和键盘输入指令和获得结果。
一、云化计算的系统实现在计算机系统中,为了简化系统处理过程的复杂性,通常是将该系统划分成2个过程:预处理过程和功能实现过程。
对系统中的各种功能进行分解和抽象,得到可以预先处理的、而不需要在系统的执行过程中来处理的功能。
这些可以预先处理的功能是一次性的处理。
在系统的执行过程中可以直接应用预处理过程的结果来完成系统的特定功能。
采用这个原则和方法。
可以大大简化系统、提高系统的运行效率。
计算的云化过程所构成的系统称其为计算云化系统,它的计算量非常之大。
对计算机系统的处理能力的要求非常之高。
但计算云化系统是一次性的预处理系统,一旦生成了该计算的云规则,它的使命任务就将宣告完成,而不是在应用该计算时需要该系统。
云的计算过程所构成的系统称为云计算系统,它是一个非常简单的系统,对计算机的处理能力没有过高的要求,可广泛应用于各种系统工程计算中。
二、云计算的主流技术IBM在2007年推出了蓝云计算平台,为客户带来即买即用的云计算平台。
它包括一系列的云计算产品,使得计算不仅仅局限在本地机器或远程服务器农场(即服务器集群),通过架构一个分布式、可全球访问的资源结构,使得数据中心在类似于互联网的环境下运行计算。
1、云计算平台的体系结构云计算平台的体系结构由一个数据中心、IBMTivoliPlovisioning Manager、IBM Tivoli Monitoring、IBMWebsphere ApplicationServer、IBM DB2和虚拟化组件所组成。
2、“蓝云”的硬件平台和Hadoop“蓝云”的硬件平台并没有什么特殊的地方,但是蓝云使用的软件平台相较于以前的分布式平台具有不同的地方。
主要体现在对与虚拟机的使用以及对于大规模数据处理软件Apache Hadoop的部署。
Hadoop是网络开发人员根据Coogle公司公开的资料开发出来的类似于Goode FileSystem的Hadoop Fde System以及相应的Map/Beduee编程规范。
3、“蓝云”中的虚拟化“云”中的虚拟化可以在两个层面上实现。
第一个是硬件层,采用IBM Systm p这类硬件。
创新者可以在IBM AIX或Linux操作系统中请求虚拟的动态LPAR。
LPAR 的CPU资源由IBM?Enterprise Workload Manager提供最佳管理。
EnterpfiseWorkload Manager监控CPU需求,并利用业务策略来确定为每个LPAB 分配多少CPU资源。
System P具有微分区能力,支持系统将部分CPU分配给LPAR。
部分CPU可以细化为一个物理CPU的1/10,虚拟化的第二种实现出现在软件层,诸如Xen等技术可以在此为云计算环境提供巨大优势。
“云”的当前实施主要支持Xen,但是该框架也支持其他软件虚拟化技术,比如VMWam的ESX产品。
4、“蓝云”的存储结构蓝云的存储结构主要利用了SAN技术,利用SAN,可以彻底改变计算机能力和磁盘能力之间的比例。
单个SAN客户机可以连接并高速访问海量数据,当需要更多的计算机能力时,可以添加更多机器,当需要更多的I/O能力时,可以添加更多SAN设备,两种能力相互独立。
SAN的特性包括:快速写功能、瞬间复制功能、共享文件系统。
三、云计算实践中应用实例1、在亚马逊网站的应用是以在线书店和电子零售业起家的,如今已在业界享有盛誉,不过它最新的业务却与云计算有关。
两年多以前,亚马逊作为首批进军云计算新兴市场的厂商之一,为尝试进入该领域的企业开创了良好的开端。