当前位置:文档之家› 简述东方电子云架构群控大数据平台的实现

简述东方电子云架构群控大数据平台的实现

简述东方电子云架构群控大数据平台的实现摘要介绍东方智能控制有限公司为了落实国家和公司关于大数据和云计算方面的指导精神,根据公司实际和市场需求,建立和开发的基于云架构的群控系统大数据平台。

包括该平台的架构设计、采用的技术框架和技术实现,也介绍了如何把云平台从理论到实践的关键技术探索。

关键词云技术;大数据;IMU前言随着人民生活水平不断提高,人们对办公环境和居住环境的舒适性、美观性要求越来越高。

在新建和改建的商用民用建筑中,越来越多的业主要求设计中央空调。

中央空调在为人民营造舒适气候环境同时,也带来了越来越严重的能耗问题。

统计可知,目前楼宇建筑中,制冷制热能耗可占楼宇总能耗的40%。

在空调系统中,能耗主要是机房内的冷热源主机电耗和配套水泵、风机电耗。

为了提高空调系统总体效率,人们开发了许多实现不同控制策略的群控系统,协调空调机房设备运行,最大限度实现机房系统节能运行。

但是,由于空调机房分布地域范围广泛,使用环境千差万别,而群控产品生产厂家缺乏有效的远程监控手段。

导致无法对群控实际运行效果进行跟踪研究,在客户遇到问题后不能及时提供支持。

在最近几年,一些群控厂家也提出了多种多样的群控远程监控方案,但是受限于资金和技术能力,这些群控方案要么投资巨大,要么接入费用高,实用效果不明显,而且由于不能在后期持续有效管理和数据挖掘,这些系统最后要么消失,要么发展成华而不实的展览品。

面对目前的需求,结合长期的冷热源系统群控实践经验和强大的软件开发能力,我们在2014年提出了基于云计算模型的群控系统大数据平台方案,并进行了积极有效的实践。

本文对群控系统大数据平台方案及采用的核心技术做一个简单的介绍。

1 机房群控系统介绍图1 空调系统图民用和商用建筑中,中央空调设备种类繁多,但基本形式类似。

主要由空调用户、空调末端设备、输送管道以及冷热源系统组成。

其中,作为中央空调系统的核心,冷热源系统(机房)具有决定整个空调系统运行状态的关键作用,同时,冷热源系统也是整个中央空调系统的关键能耗部分。

冷热源系统一般包括冷热源主机、冷却水循环泵、冷冻水循环泵、冷却塔风机、压差平衡阀、管路切换开关阀等设备组成。

各设备之间相互关联,群控系统就是冷热源系统大脑,负责设备运行调整,工艺启停工作和故障紧急情况处理,保证节能运行。

1.1 群控系统基本功能(1)运行调节群控系统根据工艺要求,测量系统实际参数,例如机房冷冻水输入和输出温度、压力,并根据实测参数协调各设备的运行参数和启停数量,使系统输出符合目标要求,保证业主对冷热源系统的使用。

(2)启停管理由于各机房设备的启停顺序存在时序和连锁要求,因此,群控设备也要根据这些过程参数调节各设备的启停顺序和转换时间,保证空调系统启停连锁正常,提高设备正常运行能力。

(3)故障处理群控系統还要实时监控空调系统各设备的运行状态,及时发现问题,根据预先设定策略对故障设备进行分离,启动备用设备,报警等故障处理。

(4)节能运行群控系统不仅要保证机房正常可靠运行,随着现在能源问题日益受到关注的时代,还要具有降低系统能耗,提高系统能效的能力。

目前群控系统主要是不同的预定义节能运行策略来达到节能要求的。

(5)历史记录系统运行的历史纪录对分析系统的历史运行情况,故障报警原因分析至关重要,也是保证群控系统正常运行的必须组成。

群控系统不仅要记录自己额运行历史记录,还要对用户的操作记录,相关设备的运行过程都要有持续准确的记录。

1.2 架构形式(1)PLC+开关屏这种形式出现较早,在液晶屏价格昂贵的时候,采用开关屏作为界面,包括按钮、LED仪表,用PLC作为控制部件。

在当时的优势是造价便宜,故障点分散,易于维修。

劣势是信息量少,交互不灵活。

(2)PLC+触摸屏在20世纪90年代,随着触摸屏架构急剧下降,前一种方案成本优势不明显,而且从人机交互上触摸屏更灵活,提供信息更丰富。

因此逐渐取代第一种方案。

(3)PLC+一体化工控机进入20世纪,群控系统功能越来越多,群控算法越来越复杂,涉及模糊控制、专家系统等等。

群控系统已经不仅仅是机房设备管理系统,同时是设备运行专家系统,历史数据存储系统和能耗分析系统。

这就要求群控系统具有更快速的运算能力,更大的存储空间,更优秀画面展示。

因此,一体化工控机和PLC的组合群控系统在一些先进的群控厂家逐渐得到应用。

(4)PLC+云+浏览器PLC+一体化工控机方案虽然相对比较优秀,但是技术要求高,成本相对较高,而且推广后的调试、安装及升级都涉及较多的资源投入。

因此,基于互联网技术的群控系统出现了。

该系统中,本地群控还是PLC+触摸屏形式,但是具有了网络模块,可以直接接入互联网,而在群控公司建立数据中心,将所有数据汇总记录。

利用数据中心的高级运算能力完成各种群控算法,最后远程控制群控系统执行。

该方案降低了前一种的方案的投入成本和维护费用,提高数据利用率,集中管理也降低了运营成本。

我们的基于云架构的大数据平台就是采用的这种方案[1]。

2 基于云架构的群控大数据平台群控节能云平台是建立于已有大数据、云平台相关技术之上,可接入分布于世界各地的冷热源群控系统、冷热源设备,实现海量运行数据和能耗数据的永久存储、数据挖掘、在线整定、专家预测分析等功能的综合性大数据应用平台。

2.1 平台架构2.2 关键技术用最低成本建立最符合实际的云系统,给最需要的用户最方便地接入体验,是我们建立群控大数据平台的技术宗旨。

智能网络终端IMU的引入解决了云平台开发难度大,初期实现周期长的难题,使低成本云平台快速实现成为可能。

分布式后台服务技术ZooKeeper,虽然难度较高,但是可以逐步投入,按需增加,降低购入大型服务器的成本压力。

基于C++的异步IO技术ASIO,最大限度发挥服务器潜力,使普通配置服务就可以胜任高吞吐量大并发任务。

采用非关系型数据库MongoDB,既保证了大数据存储经济性,也提供了分布式数据库访问能力和无限的数据存储扩展能力[2]。

(1)分布式后台服务群控云平台预计设备接入容量将达到万级,如果采用常规的单服务器架构,则必然需要大型服务器主机的支持,投资巨大。

而且设备接入是逐步增加,初期投资回收周期长,也容易造成浪费。

我们根据现有技术发展,决定采用云计算平台架构,用多台服务器组成服务器集群,根据设备接入数量逐步增加服务器数量,满足平台要求的同时又不会造成投资浪费,同时还会提高平台可靠性。

ZooKeeper是Apache的一个分布式的、开放源码的分布式应用程序协调服务。

其包含一个简单的原语操作集,包括命名、配置维护、提供分布式锁、提供分组等服务。

这些服务可被分布式应用以不同形式加以应用。

由于正确而高效地实现这些基础服务极其困难,编写分布式应用的开发人员无法也没有时间实现这些服务,即便正确实现了,也很可能会导致部署和管理的复杂。

为了解决此问题,Apache提供了ZooKeeper项目,可提供可靠的、可扩展的、分布式的、可配置的协调机制来统一系统的状态。

使用ZooKeeper技术可以大幅度节省开发分布式系统的工作量,同时大幅度提高系统的质量。

本项目充分利用了ZooKeeper提供的相关功能,降低了项目开发的难度。

ZooKeeper本身是一个分布式系统,只要多数节点可用整个系统就是可用的,在生产环境至少要部署3个服务节点,也可以部署5个、7个乃至9个节点。

ZooKeeper模型如图2-3所示。

可支持大量客户端连接,每个客户端可以连接到任何一个服务器。

通常,ZooKeeper 集群上的任何操作不是读操作就是写操作。

ZooKeeper 确保所有读和写操作,在所有客户端看来都具有完全相同的顺序。

在提供强一致性保障的同时,ZooKeeper同时给出高可用性承诺,这可以被简单地解释为可以在多台服务器失效的情况下仍然为客户端提供服务。

ZooKeeper使用一个传统的手段来达到高可用性——通过将数据读写分布到几台机器上来实现,这样如果一台失效了,其他的服务器可以接管它的服务,而无须让客户端更智能。

(2)前摄式设计模式从系统架构图可以看到,现场设备和平台的交互都是通过一个个连接服务器来完成,因此,每个连接服务器的效率和可靠性决定了整个云平台数据采集和远程控制的可靠性。

ASIO是一个开源的跨平台的网络编程框架,其初衷是提供一个专家级的高效框架,方便网络开发者进行大规模、系统化的复用,避免低效的重复发明轮子。

该框架实现了Proactor设计模式。

本项目使用Boost.asio来实现底层通讯。

Proactor设计模式基于异步I/O,可充分利用操作系统、CPU、网络接口提供的并发处理机制,较同步方式极大提高了通讯效率。

前摄设计模式占用资源少,单机可支持大量的连接(一台普通的PC机可以同时支持10万个以上的连接),因此采用前摄设计模式有助于提高系统的可伸缩性。

除此之外,该模式还有其他好处,例如,如果多个异步I/O操作被同时发起,且每个操作带有额外信息,比如处理文件I/O时用到的文件位置,那么操作系统就可以优化其自身的缓存方式来避免盲目的数据复制。

不仅如此,操作系统还可以通过重新安排每个操作的时序来进一步优化文件I/O工作效率,使得磁盘头的移动距离总和达到最低,并增加缓存的命中率。

(3)高性能可伸缩数据存储由于设备接入量巨大,且数据间隔时间短,每天要存储的数据量非常庞大。

举例来讲,单台群控系统每天可产生230万个数据,如果接入群控系统达到1000套,则每天实际数据量达到23亿。

在这些数据中,大部分数据并不具有关键作用,如果采用关系型数据库存储,会导致极大浪费,因此,我们选择了非关系型数据库MongoDB数据库作为海量数据存储的管理系统。

MongoDB是一个基于分布式文件存储的数据库。

由C++语言编写。

旨在为WEB应用提供可扩展的高性能数据存储解决方案。

MongoDB是一个介于关系数据库和非关系数据库之间的产品,是非关系数据库当中功能最丰富,最像关系数据库的。

他支持的数据结构非常松散,是类似json的bson格式,因此可以存储比较复杂的数据类型。

Mongo最大的特点是他支持的查询语言非常强大,其语法有点类似于面向对象的查询语言,几乎可以实现类似关系数据库单表查询的绝大部分功能,而且还支持对数据建立索引[3]。

(4)智能网络模块大数据平台架构关键技术之一是采用智能网络模块作为数据采集终端,相比以前其他网络厂家提出的采用RTU或者DTU方案,智能网络模块降低了云服务设计难度和网络性能风险,提高系统可靠性,使群控大数据平台真正从理论可行走上实际可行。

网络智能模块基于ARM 9系列嵌入式芯片开发,CPU主频速度400MHz,内存最高可到128M,完全可满足高速采样过程中的数据运算处理。

网络智能模块采用了LINUX嵌入式操作系统,可满足高可靠性要求,也支持程序的POSIX设计。

相关主题