数据质量管理系统建设方案
系统特点
数据看板(有好图换之)
功能点规划
场景配置选择 预判展示 明细查询
按业务对数据进行分类,并提供各指标的展示控件,即各 类展示主题用户选择岗位权限内关注主题进行展示。
看板集成预警功能,系统在后台实现自动校验后完成预判 展示功能,将校验结果展示在看板上。
看板集成钻取功能,实现预判数据、业务指标数据、业务 明细数据的穿透查询
系统集成设计
移动应用系统
辅助分析系统
三集五大 业务系统 ETL
运营监测系统
ETL
其他业务系统
ETL
ETL
ETL
数据质量管理系统
OGG
生产系统(源数据) ERP
营销业务
大规划系统
物资业务系统
ETL
基建管控 数据中心
运营监测系统 其他信息系统
数据质量管 理系统只存 在数据集 成,无界面 集成和应用 集成
1、设计验证所有来源不在可信范围之内的输入数据;2、应在服务器端和客户端 都应进行输入验证;3、应对输入内容进行规范化处理后再进行验证,如文件路 径、 URL地址等,需要规范化为标准的格式后再进行验证;
1、应使用最少特权进程和服务帐户;2、应避免应用程序调用支撑系统资源; 3、单独分配管理特权;
1、设计登录成功使用新的会话;2、设计会话数据的存储安全; 3、设计会话的安全终止;4、设计合理的会话存活时间;
省公司
2
2
省公司
3
运监系统
业务系统
本段时间允许省(市)修改各指标数据,截止8日统计 截止8日不允许省(市)修改指标
各省(市)准确率、完整率、接入率
数据,从9日至15日出具《运营监
测控数据质量阅读通报》
3
1
后期 总部 数据 质量 考核 过程
上月28日
本月8日
本月15日
国网运监系统
1
只允许省(市)上报一次,不允许修改 系统生成较难明细数据与上报数据增加防修改加密 码,增加上报审计功能
1、不使用自创加密方法;
1、确保用户没有绕过检查; 2、应验证从客户端发送的所有数据; 1、使用通用错误信息; 2、程序发生异常时,应在日志中记录详细的错误消息;
1、审计功能的启动和关闭;2、应用系统的启动和停止; 3、访问控制信息;4、用户对数据的异常操作事件;
现状及系统定位
目录 系统架构设计
核心功能介绍
• 建立数据质量异常在线沟通及 数据调整流程
➢接口及数据链路监测能力提升
➢数据质量监测能力提升
定制化开发
• 建设自定义数据校验规则,满 足省公司实际业务运行现状
• 依托数据质量管理办法,有效 结合制度及管理文件,通过系 统落地建立省公司本地的数据 质量问题归集共享平台
• 建立省公司数据质量评价功能 ,促进数据接入质量提升
的原则,以切实关注点为重点, 以监测、分析、展示数据核心
数据质量管理需建立强有力的 管理制度做支撑,有效保证数 据管理执行的可行性,确保数
数据质量管理涉及业务面广, 数据接入量大,时效性要求高, 数据的处理和及时的异常告警
需求为目标,充分考虑分析梳 理数据质量管理的全面性,明
点 据接入及时、准确,需与业务
目录 系统架构设计
核心功能介绍
系统特点
促进公司大 数据管理标
准化
数据质量管理系统应用将有效结合结合省公司电力大数据
系统应用特 技术研究、应用系统及多项目建设成果,促进包括大数据建设、
运营与服务等统一的大数据标准规范体系建设,为公司电力大 数据建设提供保障。
点 促进省公司大数据应用及标准化建设
数据质量管 理专业化
功能点说明
▪ 监测校验卡板采用“一 页纸”的设计思路,面 向省公司运监中心、省 公司业务部门、地市公 司运监中心、地市公司 业务部门,实现四方面 用户的定制化适用需求, 并可实现自定义配置, 用户可在看板完成所需 的所有功能。
功能实现
• 根据用户权限及需求建立模块化的看板功能,基础功能为国网运监的数据接入要求,如接入率、及时率、完整性、准确性等,业 务部门界面包括本期、往期数据接入情况,运监中心可以看到本层级及下级数据接入情况,监测看板数据依据等率时间随时刷新 界面情况,第一时间了解数据接入请款个,同时提供接入情况的对比功能(如数据接入增长率等)。
接入适配器管理
接口服务器管理
数据源定义管理
自定义监测点管理
接口适配器
功能实现
接入监控管理
接口机运行状态监控
接口异常管理
接入异常处理
• 接收不同数据来源的数据并解析成数据质量管理系统标准格式存入 • 增删改接口服务器,分发接入接口、历史补招任务,设置运行计划 • 数据源自定义监测点定义(增删改查),包含所属数据源、监测点名称、描述、计算公式、启用标志等 • 监控运行的接口运行状态,包括内存使用、数据写入量、写入监测点列表等 • 接入数据异常及时告警功能
数据加工
计算规则库 计算引擎 统计分析
数据 存储
转存处理 数据压缩
数据校验
数据处理
数修正
同步处理
告警事件处理
元数据管理
监测点管理 监测点映射维护
数据模型
接入适配器管理
数据 接入传 输
接入监控管理
接入异常处理
数据 质量评 价
评价定义
评价流程
数据看板
运行指标统计 指标实时监控 数据源展示 数据接入展示 数据访问展示 数据安全展示
物理部署设计
生产 业务 源系
统 ...
隔离装置
磁盘阵
列
光纤交换机
光纤交换机
备份服务器
备份服务器
数据质量管理系统
数据质量管理系统
应用服务器
数据库
地市公司接口服务器(可复用省公司)
省公司接口服务器
从省公司系 统接入的数 据直接到接 口服务器
地市公司数据服务器
从地市接入 的数据通过 高速数据传 输通道发送 到省公司
脚本编辑器
规则设置
计算结果存储 事件触发计算
计算引擎
定时触发计算
周期触发计算
功能实现
• 对监测点的计算规则进行设置,支持各类函数,脚本支持自定义函数 • 公式管理,公式由数据加工服务进行存储和管理在数据加工服务中,计算点用于表示公式,包括公式的执行脚
本、触发方式及其他相关配置信息计算点可以选择是否在实时库中对应测点和不对应测点用户可以对计算点进 行增加、删除、修改 • 调用脚本执行计算算法,生成并保存计算结果 • 根据用户配置的周期,当周期到达时自动对脚本进行运算周期可以为年、月、日、小时、分钟、秒为单位进行 设置等 • 计算结果存储,如果计算点对应了实时库的测点则脚本执行结果自动存储在对应实时库测点中,如果没有对应 可以通过调用数据提交接口处理计算结果
数据质量评价
功能细分
流程定义
评价流程
流程及角色关联 评价报告
功能实现
评价定义
指标定义 模板定义
• 根据省公司数据质量管理办法,在系统中固化数据质量评价规则,每周期内对各业务数据质量进行打分评比, 按照及时性、准确性等要求,按天倒排。
• 通报结果定期以模板形式发送各业务部门,抄送公司领导。
现状及系统定位
▪ 因定位不清导致系
▪ 运维等人员对业务不清导致数据质量无法及时得到确认
统的界面设计不能
▪ 业务人员对运维人员依赖性强
满足各层级需求
▪ 数据质量不受控制直接上报国网
问
▪ 系统适应性不能满
题
足地区性、个性化
▪ 源数据提供人员无法使用系统,无法对上报数据进行确认
需求,差异明显
▪ 不支持校验规则自定义修改
数据质量管理 系统 2
一次性出具《运营监测控数据质量阅读通报》
系统建设目标及定位
➢ 实现省运监中心对公司业务数据产生、数据接入到汇总计算结果的全过程、可视 化监测管理,确保数据完整、准确、及时高质量接入及上报。
省公司运监数据质量提升
提升数据质量管理
• 提供友好、易操作的数据质量 管理界面
• 系统应用满足运监人员、业务 人员及系统运维人员需求
• 提供数据质量问题继而辅助功 能
• 缩短数据质量校验频度,提供 预判功能
现状及系统定位
目录 系统架构设计
核心功能介绍
系统特点
系统应用设计
支撑 工具
门户发布
报表管理
二次开发接口
数据质量管理系统
数据访问
访问设置 数据订阅服务
数据查询服务 访问监控
平台管理
资源监视 配置管理 权限管理 安全管理 备份恢复 日志管理
数据处理
功能细分
数据校验
数据校验判断
校验告警发送
功能实现
流程修正
数据修正
批量修正
数据同步
• 对数据源发送的数据进行校验,并生成告警 • 对产生的异常数据进行同步 强调数据预判后的处理流程,用户通过发起流程的方式,提示业务部门重新推送数据 支持数据的即时、批量修正及重新推送调整
数据接入
功能细分
▪ 缺乏针对数据质量 管理的标准化流程 及沟通机制
▪ 无数据质量预判机制 ▪ 缺乏数据质量的问题分析、归集及经验共享机制
▪ 缺乏考核通报机制
▪ 数据质量查询功能不完善
趋于严谨的数据质量评价考核规则
当前 总部 数据 质量 考核 过程
上月28日
1
本月5日
本月8日
本月15日
允许省(市)重复上报数据,截
止5日统计各省(市)及时率
功能清单
功能点
系统管理 数据加工 数据存储 数据处理 数据访问 数据接入传输 元数据管理 数据质量评价 数据看板 支撑工具
功能点描述
包括资源监测、配置管理、安全管理、备份恢复、日志管理等 通过对计算规则库进行配置,提供计算引擎和统计服务,实现数据加工 对存入数据的转存需求进行处理,提供数据压缩服务 对接入数据质量管理系统的数据进行正确性检查、格式转换、标准统一, 并提供数据调整功能 跨平台数据访问服务及数据访问服务 提供数据接入及传输通道 数据监测点管理及维护,映射关系模型维护等 依照管理制度对数据接入情况进行排名比较 对系统各个环节的运行情况进行统计、分析、展示 门户集成、二次开发接口等支撑服务