当前位置:文档之家› 大数据云平台项目

大数据云平台项目


数据服务
构建数据管理门户平台,形成数据服务能力、数据集成能力、 数据管理能力、应用能力,从微观层面和宏观层面,提升企 业运营管理和辅助决策水平。
2
总体架构
SEFONSOFT SOLUTIONS A BETTER WAY
用户层 展示层
业务人员
办公电脑
运营部门
手机终端
集团领导
综合大屏
应用层
信 息 安 全 保 障 体 系 支撑层
基于数据库日志分析(oracle、mysql、Sqlserver)
备注 独有 独有 独有
独有 独有
Access输入、Excel输入、固定宽度文件输入、文件内容加载至内存、流查询、值映射、插入/更新、列拆 分为多行、列转行、去除重复记录、唯一行(哈希值)、增加常量等20多种清洗组件
支持处理节点的扩展,增加机器等方式扩展处理能力 插件扩展
任务并发度控制(任务级)、任务启动、任务中断、提供定时调度(多样定时组合,时间间隔可以到秒), 并能可视化配置; 提供跨节点调度,方便位于不同机器上运行节点之间的调度,并能可视化配置
图形监控、统计监控、日志报告
10
融合采集ETL-构件库
SEFONSOFT SOLUTIONS A BETTER WAY
SEFONSOFT SOLUTIONS POWERED BY DATA
数据云平台项目建设方案
构建大数据基础软件设施,发掘数据资源核心价值

CHENGDU SEFONSOFT CO.,LTD
SEFONSOFT SOLUTIONS A BETTER WAY 1
建设目标
业务运营趋势分析
数据门户管理平台
数据共享服务 数据授权管理
数据资源管理 数据集成
数据服务引擎
数据接口
绩效考评评估
业务风险问题预判



商业智能BE
数据仓库

图表分析
报表分析

数据指标

联动配置
查询检索
数据模型
理 体
报告管理
权限管理
数据指标

数据融合采集ETL
任务配置
任务执行
状态监控
节点管理
数据层
财务系统
支持20多种主流数 据库采集,30多种 数据文件格式,20 种清洗组件
7
融合采集ETL-采集流程
原始数据源
数据采集交换区
数据 抽取
调度
任务流程
流程 控制
操作 控制
转换流程
数据 转换
数据 加载
调度
子任务
控制 操作
流数据采集传输
SEFONSOFT SOLUTIONS A BETTER WAY
数据湖
分散、种类多样化, 时效性差异大
11
融合采集ETL- 监控管理
ETL任务执行一览无余 可视化手段多角度作业监控 作业执行状态与成功率监控 对作业进行多角度排序
全方位洞察一项任务执行 单一业务的任务详情 图形化展示任务执行日志 任务运行情况变化曲线
12
SEFONSOFT SOLUTIONS A BETTER WAY
告警帮你随时把握任务异常 定义指定任务的报警规则 定制指定任务的报警渠道 指定报警信息的接收者 根据需要控制告警规则的启用与关闭
业务审批系统
EBA智能设备系统
人力HER系统
பைடு நூலகம்
停车系统
3
技术架构
4
SEFONSOFT SOLUTIONS A BETTER WAY
建设思路
整体设计,突出重点 统筹规划,分步实施 整合资源,协同共享 积极创新,务实高效 优化机制,统一标准
5
SEFONSOFT SOLUTIONS A BETTER WAY
组件 集群能力 组件扩展 任务调度 运行监控
能力描述 HDFS Hbase Hive IBM DB2 Oracle Sqlserver Sybase Mysql Kingbase PostgreSQL HTTP MongoDB Flume Kafaka TCP/IP Webservice 时间戳 全表对比
资源 数据 应用 服务 安全 标准
整合与完善硬件基础设施,形成计算、 网络和存储共享资源池 基于大数据技术,改善信息资源的整合、 挖潜、分析和研判
实现跨业务综合应用支撑体系,实现层 级整合、领域整合、系统整合
标准化和自动化的数据管理服务流程
强有力的网络与信息安全保障
着手制定和完善平台建设、应用交互、 数据共享等相关标准
普通查询条 件配置
自定义查询 条件配置
报告管理
报告编辑
发布下线
导出打印 预警提醒
日志查询
辅助组件配 置
数据处理
数 据
表关联
字段过滤

数据过滤
计算字段

数据汇总
列排序

新建数据表

SEFONSOFT SOLUTIONS A BETTER WAY 6
融合采集ETL
SEFONSOFT SOLUTIONS A BETTER WAY
伟业ETL在传统ETL基础上支持Hadoop、Hbase、实时流等数据的采集、转换,主要能力如下:
批量采集
提供存储过程、触发 器、脚本、sql、 sqoop、文件等方式 批量采集能力
数据整合
SEFONSOFT SOLUTIONS A BETTER WAY
打通内部EAS系统、智慧社区的系统、天眼系统、停车场管理 系统、EBA智能设备系统,通过数据清洗、转换、比对实现数 据整合,打破企业内部数据孤岛。
数据治理
构建企业内部三层架构数仓,形成运营、市场、财务类主题数 据资源,建立大数据挖掘分析模型,实现多维数据分析。
商业智能平台-功能架构
SEFONSOFT SOLUTIONS A BETTER WAY
O L
选择图表
图表分析
选择业务数 据集
配置维度度 量
统计报表分析
联动配置
组件与组件 联动
查询条件与 组件联动
A P
配置分析指 标
配置计算指 标
轮播配置
简单报表
查询条件配置
分 析
参数配置
配置常量线
配置高级分 析线
复杂报表
实时采集
提供实时消息流、消息 队列等实时采集能力
多种数据源支持
HDFS、Hbase、Hive、 IBM DB2、Oracle、 Sqlserver、Sybase
Mysql、HTTP、 MongoDB
跨平台
支持云平台、Windows、 Unix、CentOs、Liunx
等主流操作系统厂商 的运行环境
丰富的组件
多种技术手段,平台化系统,快速部署,统一管理
8
为大数据应用提供 全兼容数据存储
融合采集ETL-数据处理流程
SEFONSOFT SOLUTIONS A BETTER WAY
9
融合采集ETL-主要功能
SEFONSOFT SOLUTIONS A BETTER WAY
主要功能
支持的数据源
实时采集 CDC增量采集
相关主题