超融合:架构演变和技术发展开篇推荐:•如何学习微服务大规模设计?(点击文字链接可阅读)1、超融合:软件定义一切趋势下的诱人组合超融合是以虚拟化为核心,将计算、存储、网络等虚拟资源融合到一台标准x86 服务器中形成基本架构单元,通过一整套虚拟化软件,实现存储、计算、网络等基础功能的虚拟化,从而使购买者到手不需要进行任何硬件的配置就可以直接使用。
“超”特指虚拟化,对应虚拟化计算架构。
这一概念最早源自Nutanix 等存储初创厂商将Google/Facebook 等互联网厂商采用的计算存储融合架构用于虚拟化环境,为企业客户提供一种基于X86 硬件平台的计算存储融合产品或解决方案。
超融合架构中最根本的变化是存储,由原先的集中共享式存储(SAN、NAS)转向软件定义存储,特别是分布式存储(如Object、Block、File 存储)。
“融合”是指计算和存储部署在同一个节点上,相当于多个组件部署在一个系统中,同时提供计算和存储能力。
物理融合系统中,计算和存储仍然可以是两个独立的组件,没有直接的相互依赖关系。
超融合则重点以虚拟化计算为中心,计算和存储紧密相关,存储由虚拟机而非物理机CVM(Controller VM)来控制并将分散的存储资源形成统一的存储池,而后再提供给Hypervisor 用于创建应用虚拟机。
超融合已从1.0 阶段发展至3.0 阶段,服务云平台化趋势明显,应用场景不断丰富。
超融合1.0,特点是简单的硬件堆砌,将服务器、存储、网络设备打包进一个“盒子” 中;超融合2.0,其特点则是软件堆砌,一般是机架式服务器+分布式文件系统+第三方虚拟化+第三方云平台,具有更多的软件功能。
在1.0 和2.0 阶段,超融合和云之间仍旧有着“一步之遥”,并不能称之为“开箱即用”的云就绪系统,超融合步入3.0 阶段,呈现以下两个特点:服务的云平台化。
它所交付的不仅是软硬一体的超融合方案,更是一套完整的云平台服务:用户只需要一次性投入,就能够得到完整的云服务。
假设用户是第一次上云,只需满足最基本的IaaS 服务即可;随着云化的深入,用户开始在云上部署业务,在需要开发测试,需要数据库、大数据等应用的时候,不需要增加任何节点,便可在已有的超融合部署环境里获得丰富的PaaS 服务,如数据库、缓存、大数据、数据仓库、容器平台、人工智能、物联网等。
进一步地,用户还可以基于云平台开发符合自己行业特性的组件,如企业内部的CRM、邮件系统等各种各样的App;应用场景的丰富化。
目前超融合应用已经覆盖企业级云平台、企业桌面云服务、企业容灾云平台、企业开发测试云、行业云等多种企业场景,进入了企业生产环境,并在银行、证券、交通、制造、政府、能源、零售、教育等关键行业全面突破。
更加丰富的应用场景和行业覆盖有助于推动超融合的产品迭代和成熟,产品的进化也让超融合能够进入更多的应用场景。
2、关键技术持续突破,超融合架构趋于成熟超融合技术实现原理核心是以软件定义存储(SDS)替代了传统融合系统中的存储区域网络(SAN),主要技术是构筑于标准服务器硬件上的软件定义存储加(服务器)虚拟化。
并且相关核心技术不断升级,超融合方案在适用性、兼容性、数据效率、连续性及可扩展性方面都有了较大的提升。
以虚拟机为核心:在传统的架构中,存储对上层的主机提供存储卷服务,对于在主机上部署的虚拟机来说,其数据具体在存储上如何分布,是不可知的。
而在超融合架构中,与虚拟机相关的数据分布,虚拟机的数据会优先存放在本地节点上,避免跨节点访问造成的延迟和资源占用。
在进行快照、复制等操作时,也是围绕虚拟机这个维度来进行的,而非传统架构中对虚拟机所在的存储卷进行快照和复制。
平台兼容性提升:目前虚拟化界的标准VMware,被绝大多数的超融合方案支持。
但除了EVO:RAIL/VxRAIL仅支持VMware(SimpliVity 虽然现在仅支持VMware,已有明确的计划支持Hyper-V),多数厂商都已经意识到继续绑定VMware 并不能保证自己的生存,比如Nutanix 对Hypervisor 支持十分全面,VMware/Hyper-V/KVM(自己开发的AHV)都支持;华为的FusionStorage 除了支持VMware 和KVM 外,自己也有基于Xen 开发的FusionSphere 虚拟化平台。
能够兼容多个Hypervisor 性能,对于多Hypervisor平台混合部署的环境下的客户,其虚拟机在Hypervisor 间转换的功能需求能够被较好地满足。
I/O 性能优化、数据效率提升:1)原生的超融合架构在数据本地化的设计,以及数据写入到节点时的策略进行深入的优化。
2)超融合架构对闪存/SSD 的配置和使用远远超过传统存储。
通常,一个节点配置的SSD 会是800GB~1600GB,甚至扩展到更多。
3)相比传统存储的RAID 技术,在分布式系统中,多副本技术是最常见的数据保护方案,可以缓解副本技术带来的存储空间的占用。
4)数据效率上支持重删、压缩、精简,在线处理。
SimpliVity 在重删、压缩上使用了PCI-e 加速卡来实现,Nutanix 对于写入到内存和SSD 的数据,可以执行在线重删处理,而对于写入到HDD 的冷数据,则通过MapReduce 的方式跨节点进行全局重删。
备份、容灾业务连续性强:在复制、容灾中,传统架构更多是基于Array-Level、通过存储卷的复制来实现,超融合方案的容灾,大多是基于VM-Level 来进行,尤其是与Hypervisor 配合起来更为便利,但还不能满足RTO/RPO=0 的双活要求。
超融合在通常的数据复制、异地容灾(不严格要求双活)的环境中,可用性较强,而随着超融合技术的发展,客户接受程度的提升,超融合在容灾方面替代传统架构也将实现。
便于管理和扩展:越来越多的超融合方案有单独的统一管理工具,可以集中管理跨地域部署的多个集群,并且可扩展性优良,对硬件平台兼容的方面,VSAN 方案允许客户选择多种服务器平台,甚至可以使用现有的服务器进行利旧,集群中节点的最大数量方面,Nutanix 等方案在节点最大数量上没有限制,扩展时还允许多种配置的节点并存于一个集群中。
超融合技术日趋成熟。
以SmartX 为例:1)可靠性方面,冗余度降低,最多坏3 个副本,而传统架构则是一整个控制器;可以利用已有空间自动处理热备;仅恢复写入数据,通过多节点读出,多节点写入,速度取决于节点数,每节点1000MBps,恢复速度快。
2)随机性能方面,分布式存储带来多节点并发和性能扩展,而超融合架构独有的数据本地化,分离式的架构无法实现。
SSD 是即使传统架构存储都会使用的,但双控无法发挥SSD 的性能。
比如EMCUnity650F,8:28K 混合随机读写性能最大27 万IOPS,而对于SmartX 性能比较好的超融合产品,一个节点8:28K混合随机读写很容易达到3 万以上IOPS,通过线性扩展,以非常小的用户规模为例,10 个左右节点就可以达到EMCUnity650F 的最大性能(来源CSDN)。
3、突破传统架构多重瓶颈,超融合价值凸显对于传统存储遇到的I/O 瓶颈,企业需要改变传统的存储架构,分布式存储就是最好的选择。
软件定义的分布式存储是当代数据中心技术演进的主要趋势之一,已经被用户广泛接受。
通过软件作为媒介,将服务器和存储组成一个存储资源池,既保证了存储需要的性能,又同时通过硬件+软件的方式,提供了良好的扩展性。
Google、Facebook 等大型互联网公司通过软件定义技术构建大规模数据中心,并结合虚拟化技术和企业IT 的场景,实现可扩展的IT 基础架构,是最早的“计算”和“存储”的融合——超融合架构。
超融合的本质是传统IT 架构从硬件向软件转型的核心产品,也是传统IT 架构向新IT 架构转型的产物。
4、突破传统IT 架构I/O 瓶颈,用软件定义存储成趋势传统IT 架构中计算存储资源浪费严重,企业“资源孤岛”问题亟待解决。
目前大多数企业仍旧沿用传统IT 基础设施架构,该架构由服务器存储孤立地形成一个个烟囱式的架构,每个服务器(集群)对应独立的存储或网络。
针对就业务搭建的架构而言,每个业务具有独立的区域,通常每个业务区的物理边界是该业务的专用汇聚交换机,各个业务之间完全割裂,存储部分遭遇了I/O 瓶颈,无法应对当前数据分析的要求。
部分企业引入了基于云计算的部署方式,这个方式虽然解决了管理问题和资源高效问题,但由于其后端存储部分依然采用单独的 SAN/NAS 网络存储产品,I/O 瓶颈依然存在,还造成了更多的管理复杂度,存储的扩容能力受限、数据库等关键应用无法统一到云平台上等问题。
虚拟化推动存储快速扩容,传统IT 基础架构升级需求进一步释放。
根据Cisco 测算,从2015 年至2020 年数据中心存储安装容量将增加近5 倍,从2015 年的382EB 增至2020 年的1.8ZB,而数据中心内存储的实际数据总量将增长5.3 倍(从2015 年171EB 增长到915EB)。
上述集中式的存储服务器系统快速扩容压力进一步增加,尽管CPU 的性能越来越强大,但碍于传统存储硬盘太慢,大部分CPU 计算能力是处于空闲或等待存储数据传输过来的状态。
传统 IT 架构往往通过添加新的存储机柜实现扩展,由于非线性扩展,导致存储机柜的资源利用率降低,后期管理、维护费用增加,传统存储的容量和性能不具备与计算能力匹配的可扩展性,也难以满足企业进行高速数据访问的需求。
分布式架构实现线性扩展,以ServerSAN 为代表的超融合架构成数据存储主流。
相较于传统IT 架构,在可扩展性方面,超融合架构中的多套单元设备可以通过网络聚合起来,实现模块化的无缝横向扩展(scale-out),形成统一的资源池,通过横向增加节点让系统的扩展更灵活,客户只需要根据需求购买相同的配置,就可以快速的实现IT 系统的扩展。
即采用分布式架构,线性扩展,无节点数限制,无单点故障,内置本地备份、同城和异地容灾能力。
以ServerSAN架构为例,它是以分布在各个服务器中的存储设备,替代传统存储架构,打破了集中存储的I/O 访问性能瓶颈。
该架构最核心的改变是存储,最初推动者也是来自于互联网背景的存储初创厂商,比如国外的Nutanix、国内的SmartX等。
根据Wikibon 对全球市场的预测,5 年后超融合基础架构产品将超过传统存储,成为市场主流。
5、部署运维简化叠加TCO 降低,性价比大幅提升部署运维简单,按需采购,单一支持。
1)部署运维方面,超融合由于采用开箱即用的部署方式,可以免去传统集中存储环境下存储的规划、连接、配置等复杂的管理操作,无需再配置Raid 组、LUN、卷等,交付时间可以从过去的十几天缩短到半天,大大降低交付的时间。