2017年第11期信息与电脑China Computer&Communication数据库技术数据处理技术的现状及面临的挑战杨凤霞(河南财政金融学院,河南 郑州 450000)摘 要:智能电网是电力行业发展的新趋势,也是社会经济发展对电力行业提出的根本要求。
近年来,随着智能电网应用范围的逐步扩大,数据处理方面所面临的问题也逐渐凸显出来。
基于此,首先对智能电网数据处理技术的现状进行分析,并在此基础上梳理当前数据处理工作所面临的挑战,以此来为日后智能电网的完善提供一定的参考。
关键词:智能电网;数据处理;挑战中图分类号:TM76 文献标识码:A 文章编号:1003-9767(2017)11-168-03The Present Situation and Challenges of Data Processing TechnologyYang Fengxia(Henan University of Finance and Economics, Zhengzhou Henan 450000, China)Abstract: Smart grid is a new trend in the development of power industry, but also the basic requirement of the social andeconomic development of the power industry. In recent years, with the gradual expansion of the scope of application of smart grid, data processing problems are gradually highlighted. Based on this, this paper first analyzes the current situation of data processing technology of smart grid, and combs the challenges of data processing in order to provide some reference for the future improvement ofsmart grid.Key words: smart grid; data processing; challenge随着我国电力行业的飞速发展,电网运行对数据处理工作提出了新的要求。
目前,我国智能电网已进入大数据时代,数据处理技术水平有待进一步提升。
结合国内电力行业发展的现状来看,完善数据处理技术,需要分别从传输性、存储性、时效性、集成性和可视性几个方面进行探讨,以此来确保数据处理工作科学、完善、有效。
1 新时期智能电网的数据特点大数据时代来临,智能电网建设中所涉及的电网数据资源也越来越丰富,综合来看,大致由以下几个方面组成:(1)智能电网投入运营过程中所涉及的各类数据;(2)为了确保电网的稳定运行,电网企业管理过程中涉及的各类数据;(3)电网运行过程中的设备监测数据等。
就目前智能电网的整体运行情况来看,几乎每个环节都会产生一定的数据资源,例如发电侧、用电侧和输变电侧等。
结构化数据和非结构化数据是数据资源的两种基本形式,其中,非结构化数据形式在智能电网中占据的比例较大。
但无论哪一种形式的数据资源,都具备以下几个特点。
1.1 数据体量大在智能电网的持续完善与推动下,数据资源的数量和体积日益增大,数据吞吐量的级别也由最初的TB 级逐步发展为PB 级。
1.2 数据价值密度低在整个智能电网的运行过程中,会产生大量数据资源。
在这些资源中,并不是所有资源都是有价值的,所以,有效提取数据资源非常重要。
提取有效数据,才能够降低异常数据出现的频率,确保智能电网安全、稳定运行。
1.3 数据类型繁杂在智能电网大数据背景下,电网运行过程中涉及的数据复杂程度越来越高,再加上受到不同地区的区域条件限制,使得电网数据的类型极为复杂,即使是细化过后的数据资源,复杂程度也相当高。
正因为如此,在建设智能电网时,才需要设置不同类型的服务器端硬件设备,并且要合理设置配置、性能和处理需求,以此来满足不同类型数据的处理需求。
当作者简介:杨凤霞(1979-),女,河南开封人,本科,讲师。
研究方向:数据处理、云计算。
2017年第11期信息与电脑China Computer&Communication数据库技术然,这也会在一定程度提高智能电网的建设难度。
2 电网数据处理技术的现状分析2.1 并行数据库在以往的电网数据处理工作中,关系数据库发挥着重要作用,可有效提高数据处理的整体效率和质量。
但是,在全新的电网运行模式下,关系数据库的优势并不能得到充分发挥。
由于受到条件因素的限制,从而导致关系数据库无法满足智能电网运行过程中对数据存储量和系统扩展性的需求,加上对数据的快速访问能力不足,使得关系数据库的使用更具局限性。
因此,为了确保电网数据处理能够满足系统运行需求,更新和完善数据库系统至关重要。
2.2 云计算技术在存储和处理大数据的过程中,云计算技术所发挥的作用是不容忽视的。
从上文的分析中了解到,在智能电网环境下,传统数据处理技术的应用存在很多弊端,无法切实满足电网运行需求。
而云计算的出现有效解决了这一问题,很大程度推动了大数据处理的发展。
就云计算技术的应用现状来看,其关键内容主要集中在海量数据的存储和并行处理上。
正因为如此,云计算技术才能够在智能电网环境下得到广泛应用。
2.3 云计算在电网数据处理中的应用云计算技术是基于计算机技术和网络技术而发展起来的一项新兴技术,是智能电网建设与发展对数据处理的必然需求。
但是,由于云计算技术在我国智能电网中的应用时间较短,所以目前仍处于不成熟的阶段。
与国外一些发达国家相比,我国对于云计算技术的研究仍然较少,无论是数据的处理还是存储,都存在很多有待解决的问题。
此外,在数据处理过程中,数据安全性与可靠性也有待进一步提升。
但不得不承认的是,云计算技术在智能电网数据处理工作方面具有十分广阔的发展前景,需要电网技术人员给予高度重视。
3 数据处理技术面临的挑战目前,我国电网正处于传统电网向智能电网转换的时期,数据处理技术也因此面临着诸多挑战,电网技术人员需要综合分析我国当前智能电网的运行情况,明确数据处理技术面临的各项挑战,然后在此基础上根据电网建设需求,切实、有效地提升与完善各个方面,以此来全面提升数据处理技术,促进智能电网的科学化建设。
归纳起来,当前数据处理技术所面临的挑战主要体现在以下几个方面。
3.1 数据在传输和存储方面面临的挑战上文提到,在智能电网的建设与运行过程中,每个环节都会产生不同数量的数据资源,比如说系统的运行和数据的监测等。
随着电网规模的持续扩大,大量的数据资源产生,如何传输和存储这些大数据无疑成为了电网运行的一个重要问题,如果处理不得当,势必会影响到电网的运行效果。
针对这一问题,技术人员首先考虑的解决方案是利用先进的压缩技术压缩海量数据资源,降低数据传输量。
但需要注意的是,压缩技术的选择必须与电网的数据资源相匹配,这样才能够达到最佳的压缩效果,方便数据传输。
其次就是数据资源的存储,传统数据处理采用的存储技术多以分布式文件系统为主,但这种技术并不适用于智能电网。
在大数据时代,存储智能电网数据,应以分类存储的方式开展。
3.2 数据实时处理方面面临的挑战提高数据处理速度将会是新时期智能电网发展的一项重要工作,尤其是在大数据背景下,数据处理速度一旦无法满足需求,那么势必会影响到数据处理的时效性,数据资源的价值也会因此而大打折扣。
因此,保障数据处理效率至关重要。
随着电网数据资源的持续增加,传统数据处理技术必然无法满足数据处理时效性的需求。
在这种情况下,加强数据实时处理技术的研究十分关键。
比如,当前有效应用云计算技术就可以有效解决这一难题,利用云计算技术,可以保证数据在最短的时间内得到最佳的处理,保证处理时效性,将数据资源的价值充分发挥出来。
但需要注意的是,由于云计算技术尚处于未成熟阶段,所以仍会受到一些因素的制约,这些因素主要包括网络阻塞、服务器故障等。
另外,内存数据库的应用、大数据库的查询等问题,也是具体工作中所需关注的热点问题。
3.3 异构多数据源处理所面临的挑战目前,一体化建设已成为智能电网的一个主要发展趋势。
所谓一体化,主要是指电力系统、信息系统和业务系统三者的有机结合,并在此基础上将电网系统运行过程中所涉及的发电、输变电、用电等主要环节贯穿起来,整体上实现电网系统高效、稳定、流畅运行。
但目前电力部门并没有对此方面给予足够的重视,各级电力部门在开展此方面工作时都是相互独立的,并没有形成紧密的联系,从而导致大规模异构多源信息数据的整合与建模成为了电网建设的一个巨大挑战。
实际上电网企业各部门都有着独立的系统和工作原则,而想要实现各独立部门间的系统集成及信息共享,可以考虑利用云平台实现独立系统间的集成和信息互通。
同时,随着智能电网规模的不断扩大,基础设施的管理问题也直接关系到数据中心的运营成本,需要在实际工作中加强管理。
最后,为了加强对智能电网各项数据信息的管理,可以考虑当前通用的多层知识结构和语义的方法,建立面向领域的分析模型与基于语义的服务模型。
3.4 大数据可视化分析所面临的挑战随着如今智能电网数据资源的飞速增长,如何将这种大规模的数据更好地呈现给用户,成为了电网数据处理技术所(下转第174页)2017年第11期信息与电脑China Computer&Communication数据库技术我国的安全保护重要部分。
其次,《促进大数据发展行动纲要》中也确立了大数据技术应用的战略发展核心。
让大数据技术成为国家提供数据的共享平台,从而推动社会市场中的数据信息共享,形成数据开发与使用的氛围[4]。
并在使用中,利用数据作出决策,用数据实现管理的创新,在良好氛围中建立数据化的思维模式和文化。
4.3 在大数据技术发展中应以需求为导向我国目前都将大数据技术作为主体技术进行研发,并在发展中明确收集数据是发展的重要方向,以大力推进数据的融合作为大数据发展的基础。
建设能够有效运行的大数据应用平台,能够科学合理地对收集的数据进行分析、整理、计算等。
所以大数据技术发展都是以大众的需求为主要的研发方向,在构建相应的平台的过程中,应能够有效存储数据,这样才能够在需求的导向下,构建相应的业务服务平台。
大数据平台建设的关键技术主要是运行和协同计算。
所以在构建有效的大数据平台过程中,应研发能够统一管理资源的功能,这样能够满足使用者对信息数据计算的需求,还能够单独查询、批量查询数据等。