Security Level:内部公开Smartcare融合大数据平台Contents01 平台概述02 解决方案关键技术03 解决方案介绍华为平台关键能力及技术优势100G大容量探针•NetProbe12U 探针•100 Gbps(处理能力)•60 TB (存储能力)复杂多接口拼接能力•跨CS,PS,IMS多域的接口关联能力;•具有120万条/秒流式数据、100MB/s文件数据采集能力强大的实时计算能力•实时流处理能力•实时事件规则定制•VVIP用户分钟级实时感知监控•海量数据存储能力•海量数据高效获取能力•后分析和离线挖掘能力海量数据存储计算能力•架构开放硬件虚拟化•平台开放Hadoop数据订阅•数据开放多租户管理架构灵活&开放能力华为平台关键能力1-架构灵活&开放能力数据开放架构开放平台开放平台能力开放给客户,易于平台的使用•第三方工具通过标准接口使用Hadoop 组件;•通过CEP 配置接口,开放实时CEP 能力;使用客户现有资产,易于平台的部署•使用第三方硬件:PC 服务器、存储•使用第三方的Cloud 环境各类数据灵活共享,数据价值最大化•实时事件数据,根据条件触发到第三方系统•通过多租户方式,客户可访问共享平台数据现网硬件虚拟化层功能现网云平台数据库权限控制DSI实时处理多租户视图SparkHadoopData MiningMachine Learning共享平台3方工具标准接口根据电信行业数据特点,采用最优的组件处理特定的数据。
Hadoop Distributed File System(HDFS)HBASE (投诉处理详单)IMPALA (接口详单)Spark(天粒度汇总计算)Hadoop 通用组件功能:•HDFS :提供可扩展的海量数据低成本存储。
•Spark :提供小批量流式处理、离线批处理、SQL 查询、数据挖掘,适合高优先级、迭代型计算任务。
•IMPALA :基于SQL 查询接口提供海量数据查询能力的新型查询引擎。
•HBASE :支持主键检索及简单事务,适合存储大表数据。
采用Huawei 自研的Hadoop 方案:兼容开源Hadoop ,便于开发者使用和技能复制;根据电信数据特点进行针对性的增强,更适合运营商部署;技术优势:在Hadoop 标准组件功能的基础上,增加以下功能•基于聚簇表/聚簇索引框架的HBase 增强:通过HBase 内部机制实现一个对象下多个用户表数据在物理上的相邻存放,从而达到查询时延相比传统方法5~100倍提升。
•基于二级索引的Hbase 增强:开源的Hbase 只提供单索引,Huawei 增强的二级索引,就是对于电信领域需要经常查询的列,建立这一列数据(例如用户号码)和RowKey 之间的索引;避免了直接在全数据表中的整表搜索,可以大大减少数据搜索量;华为平台关键能力3-海量数据存储计算能力(Hadoop )华为平台关键能力4-复杂多接口拼接能力复杂的多接口拼接能力:采集多接口探针上报数据,通过适配转换、单据关联回填,实现复杂的多接口单据拼接,生成XDR 详单。
技术优势:•跨CS ,PS ,IMS 多域的接口关联能力;•完成实时跟踪、链路监控、链路拓扑、协议分析等实时业务•支持XDR 字段的增加以及删减;•多协议支持:FTP 、SFTP 、FTPS 、TCP 、SDTP 和SNMP•具有120万条/秒流式数据、100MB/s 文件数据采集能力差异化特点:•独立实时通道,确保特定数据的实时性;多接口探针单据适配拼接●12U 探针:•100 Gbps (处理能力)•60 TB (存储能力)100Gpbs 探针是在未来LTE 时代满足数据大爆炸需求的关键能力华为平台关键能力5——100G 大容量探针●2U 探针:•10 Gbps (处理能力)•24 TB (存储能力)12U2UTecal E9000 采用OSCA 平台架构,用于大容量的MBB 探针。
完成原始信令的数据识别、解析和处理,生成xDR 。
技术优势:1、处理能力强,单机框最大处理流量100Gbps ;2、配置灵活:通过增加插板,可逐级增加处理能力;(每块业务板支持10G 流量)3、计算单板、存储单板根据需要配置;4、前插板提供计算、存储资源,后插板提供接口、交换能力;Tecal E9000Contents01 平台概述02 解决方案关键技术03 解决方案介绍关键技术1:高铁用户精准识别算法基于MR/CHR/xDR 多维大数据运算,通过合理的高铁用户识别算法,“四大步六小步”充分识别和定位高铁用户,从而达到评估高铁性能质量的能力。
工程参数预处理高铁用户识别标示高铁站点专网/非专网高铁站点小区清单,包含ECGI\小区类型\专网标记◆xDR 与软采数据拼接◆xDR 与CHR 数据拼接◆CHR 与MME CHR 拼接◆CHR 内通话间拼接高铁用户的MR 过滤与定位1、基于站点切换序列和时间,识别高速高铁用户。
2、识别同车高铁用户,获取小区切换序列和时间匹配的用户信息。
3、根据专公网切换信息和驻留时长,识别上下车用户。
4、基于上下车用户、站点和速度,识别低速高铁用户。
5、根据高低速用户的切换信息,识别高铁运行方向。
六步六识别(高铁用户/同车/上下车/运行方向/运行线路)多类数据源关联拼接1、按照识别的高铁用户,过滤出高铁MR2、通过地理化定位算法,定位每个高铁MR 的实际位置高铁用户识别准确率达到XX%。
数据拼接关键技术2:高精度的地理定位算法定位场景城区郊区/农村OTTOnly AGPS/MDTAGPS/MDT FeatureDBFeatureDBFast PositioningOTTOnly AGPS/MDTAGPS/MDT FeatureDBFeatureDBFast Positioning精度(米)20-5020-5050-8080~120 m 110~160 m 20-50?20-5060-100100~220 m 150~220 m多维数据源6大场景定位技术高精度定位OTT 数据MR 数据工程参数高精度地图快速定位立体定位道路匹配室内外区分OTT 定位特征库定位地理化定位电平特征工参特征立体特征库构建特征匹配特征库校准建筑物匹配高速用户识别多点聚合道路匹配电平特征呼叫特征邻区特征用户特征切换特征电平特征邻区特征仿真算法地物特征用户角色用户位置用户业务网络质量用户行为WiFi 信息平面定位立体定位(2017Q3)关键技术3:机器学习算法应用upperlower传统模式(故障告警思维管理性能问题):1、上区级性能告警门限一刀切->告警要么太多,要么太少->无法支撑生产运营2、用户投诉使用体验恶化->工程师分析,发现并解决问题->问题发现滞后,影响感知机器学习新模式(海量小区动态门限自动学习)几十万对象(小区/连接/IP …)1000+ 指标网络性能指标时序图c.多指相关度分析:a.时间序列聚类自学习算法:OutlierProbability Densityb.异常检测:d.指标间关联规则学习:1.基于聚类算法的海量对象长周期历史数据机器自学习获得动态门限;2.告警自动检测&多指标关联分析,问题闭环应用实例:Cell CQI页面下载速率Cell PRB 利用率Pokémon Go 流量监控:预警:恶化前兆告警:显著恶化对象:小区工程师分析:小区内Pokémon Go游戏新出现热点,用户痛点:海量对象门限如何管理?关键技术4:多数据源问题端到端定位PSPU ®每业务每用户●基于核心网定界算法,实现五元定界(终端、小区、IPRAN 、网元、SP )基于DPI 数据五元定界无线数据源深度定位SP 侧问题进一步定位●针对无线侧问题进一步深度定位,提供TOP 小区及无线根因分析(弱覆盖、干扰、负荷)●根据IP 流量流向配置信息,识别异网运营商IP ●识别DNS 跳数过多等问题小区栅格地理化分析●明确无线原因可进一步进行小区级栅格性能分析,输出优化方案。
全量DPI 数据MR/CHR配置信息(IPRAN 、IP 流量流向)HW E///NOKIA ZTEMore关键技术5:VOLTE 多接口拼接及分析定界LTE 信令面数据流VoLTE 信令面数据流VoLTE 用户面数据流ENODE BS/P_G WMMEPCRFP-CSCFS/SBCS-CSCFS/I-CSCFU US1-US1-MMES11G XRXSG IMw①②④③⑤⑥XDR 基础信息(IMSI 、开始时间、结束时间、MOS 、IPMOS 、Cause…)关联后的CHR 、MR 信息(IMSI 、CAllID 、开始时间、结束时间、频点、PCI 、RSRP 、SINR…)XDR 基础信息(IMSI 、开始时间、结束时间、MOS 、IPMOS 、Cause )CHR 信息(CALLID 、频点、PCI…)MR 信息(RSRP 、SINR 、TA…)⑤⑥IMSI 、开始时间、结束时间S1-MME 单据与S11接口单据通过**+时间关联S11单据与S1-U 接口单据通过**+IP 关联S11单据与GX 接口单据通过**+时间关联RX 单据与GX 接口单据通过**+时间关联S1-U 单据与Mw 接口单据通过**+时间关联S1_MME 与CHR 、MR 单据通过**+MMEC 关联P-CSCFS/SBC①②③④⑤⑥适配大区制和NFV 架构•跨5域23+接口单据拼接•大区及省内关联分析•他省冗余信息过滤五元五阶四环质量分析•第一失败现场进行失败归属现场定界•IMS/EPC/无线关联•呼损鱼骨概念实现流程化指标拆分中移动25省及全球实践•提供完整的8元16阶指标体系•浙江(移动标杆)供应商,搬迁X 省Contents01 平台概述02 解决方案关键技术03 解决方案介绍北京电信上线UC列表序号UC名称1VVIP用户感知洞察2区域业务质量监控3区域业务质量分析4测试APP关联分析5管理者视图6重大活动保障7重点场景保障8规划支撑:感知建网评估9覆盖&干扰:上(下)行覆盖分析、异运营商覆盖对比、LTE过覆盖分析10话务分析:LTE上(下)行负荷分析、LTE上(下)行空口数传质量分析11性能分析:接入分析、掉话分析、切换分析、重定向分析12网络评估:高铁评估、LTE重点道路评估、LTE问题区域识别业务感知监控与分析业务感知监控与分析1.1-管理者视图2.1面向中高层管理人员,聚焦集团优良率考核指标,单天和本月指标实时可视,省市区指标可逐层下钻1刷新粒度:天存储周期:2个月地理化精度:全省、地市、行政区数据源:DPI 、测试APP关联:测试APP 关联分析(可选)跳转:测试APP 关联分析2与集团考核指标规范一致:浏览、视频、IM 、游戏与集团考核规则对齐:集成DPI+APP ,区分三高/非三高,考核门限&指标占比可调可配3集团考核指标实时可视2.22.32.42.52.1面向中层维护人员,聚焦集团DPI优良率考核指标,实时刷新,省市区指标逐层下钻1刷新粒度:15分钟存储周期:2个小时地理化精度:全省、地市、行政区数据源:DPI跳转:区域业务质量分析2与集团考核指标规范一致:浏览、视频、IM、游戏与集团考核规则对齐:考核门限&指标占比可调可配3区域级业务质量直观呈现快速发现网络问题2.32.52.22.42.1面向业务分析工程师,聚焦集团DPI 优良率考核指标,实现质差自动定界,定位、定因,结合地理化及TOP 网元进行分析1查询时间粒度:15分钟、小时、天呈现时间周期:3小时/12小时/2周查询范围粒度:省/市/区/网元/小区数据源:DPI跳转:覆盖分析(MR 栅格)2五段定界:终端/无线/IPRAN/核心网/SPTOP 定位:按网元、失败次数、指标进行TOP 排序定位质差定因:结合失败码等给出质差原因3端到端业务质量分析定界2.33.12.22.52.43.22.1面向业务分析工程师,聚焦集团DPI+APP 优良率考核指标,通过多数据源关联分析,结合“UC:区域业务质量分析”,给出双差小区1查询时间粒度:天、多天、本月呈现时间周期:多天、本月查询范围粒度:省/市/区/三高(非)数据源:DPI 、APP关联&跳转:区域业务质量分析2与集团考核指标规范一致:浏览、视频、IM 、游戏与集团考核规则对齐:考核门限&指标占比可调可配无线问题可地理化下钻,输出双差小区3APP+DPI 关联分析,快速评估双差小区2.33.22.23.32.43.1 2.5业务感知监控与分析1.5-重点场景保障2.1面向业务分析工程师,聚焦三高场景,以DPI 优良率为牵引,通过多数据源进行监控与分析1查询时间粒度:小时、天、多天呈现时间周期:多天、本月查询范围粒度:省/市/区/三高(非)数据源:DPI/MR/PM(北向-华为)/FM2提供重点场景小区组的感知优良率,直观呈现与集团考核规则对齐:考核门限&指标占比可调可配感知、性能、覆盖多数据源多维呈现3多数据源针对重点场景进行多维监控与分析2.33.22.23.32.43.1 3.3业务感知监控与分析1.6-重大活动保障2.12.32.23.3面向业务分析工程师,聚焦自定义的重大活动场景,以DPI优良率为牵引,通过多数据源进行实时监控与分析1时间刷新粒度:5分钟/1小时呈现时间周期:1小时/10小时查询范围粒度:自定义的小区数据源:DPI/PM(北向-华为)/FM2提供可自定义小区组的感知优良率,直观呈现与集团考核规则对齐:考核门限&指标占比可调可配感知、性能多数据源多维实时呈现3多数据源针对重大活动保障场景进行多维监控与实时分析2.4业务感知监控与分析1.7-VVIP 用户感知洞察2.1面向业务分析工程师,聚焦VVIP 用户感知,针对单用户,用户群实时进行感知洞察以及异常感知告警输出,通过地理化等手段进行呈现和分析1刷新时间粒度:5分钟呈现时间周期:12小时用户组:1000卡片式管理:200数据源:DPI2与集团考核指标规范一致:浏览、视频、IM 、游戏5分钟告警呈现,实时分析用户号码脱敏,保障信息安全小区地理化位置呈现3APP+DPI 关联分析,快速评估双差小区2.3 2.23.33.42.52.4网络性能评估与优化网络性能评估与优化特性总览网络评估网络分析用户分析⏹网络健康度评估⏹问题区域识别⏹重点道路评估-加强北向&MDT ⏹高铁评估⏹覆盖分析-加强首界面&异运营商&北向&MDT⏹话务分析-加强首界面⏹导频污染分析⏹邻区分析⏹网络性能分析-加强首界面&重定向⏹用户组分析(RAN)⏹单用户分析(RAN)—已调用该功能⏹终端存量分析(RAN)⏹PCI 核查⏹频率分析⏹上行干扰分析-加强首界面⏹网元配置核查网络性能评估与优化2.1-下行覆盖&上行覆盖&过覆盖面向网优工程师,通过对MR 数据的采集和栅格定位,将覆盖性能直观量化呈现,指导高效、精准、低成本覆盖评估1查询时间粒度:天(首界面)&天/小时(分析界面)呈现时间周期:14天数据源:MR&MDT (U2000-华为、北向-中兴、50*50&20*20)跳转:网络性能分析(栅格界面)2首界面直观呈现关键覆盖指标分析界面指标近20种覆盖评估项可分频点进行栅格覆盖分析区分室内外3利用MR 进行栅格化分析,量化评估网络覆盖性能注1:过覆盖没有MDT 功能网络性能评估与优化2.1-下行覆盖&上行覆盖&过覆盖-2面向网优工程师,通过对异网频点MR 数据的采集、数据清洗、栅格定位,指导不同运营商覆盖对比评估1查询时间粒度:天/周(首界面);小时/天/周(分析界面)呈现时间周期:7天存储:一年内有有效数据的30天数据源:MR(U2000-华为、北向-中兴、50*50)跳转:网络性能分析(栅格界面)2首界面直观呈现覆盖率、覆盖差值、覆盖走势指标分析界面通过多窗口实现不同运营商、覆盖差值等指标对比分析可分频点进行栅格覆盖分析区分室内外3通过本网终端采集异网MR 数据,实现三网覆盖评估面向网优工程师,通过对MR/CHR 数据的采集和栅格定位,将话务性能直观量化呈现,指导高效、精准、低成本网络话务评估1查询时间粒度:天/周(首界面)&天/小时(分析界面)呈现时间周期:24小时/7天;数据源:MR&CHR(U2000-华为/50*50&20*20)跳转:网络性能分析(栅格界面)2首界面直观呈现关键话务负荷指标分析界面指标近20种话务评估项可分频点进行栅格覆盖分析区分室内外3利用MR/CHR 进行话务栅格化定位,量化评估网络话务性能面向网优工程师,通过对MR/CHR 数据的采集和栅格定位,将接入性、移动性、保持性性能直观量化呈现,指导高效、精准、低成本网络承载能力评估1查询时间粒度:天/周(首界面)&天/小时(分析界面)呈现时间周期:24小时/7天;数据源:MR&CHR(U2000-华为/50*50)跳转:网络性能分析(栅格界面)2首界面直观呈现关键性能指标分析界面指标20+种性能评估项可分频点进行栅格覆盖分析区分室内外3利用MR/CHR 进行事件栅格化定位,量化评估网络承载能力面向网优工程师,通过对MR/CHR 数据的采集和栅格定位,将4G 回落3G 的性能直观量化呈现,指导高效、精准、低成本网络重定向评估1查询时间粒度:天/周(首界面)&天/小时(分析界面)呈现时间周期:24小时/7天;数据源:MR&CHR(U2000-华为/50*50)跳转:网络性能分析(栅格界面)2首界面直观呈现关键性能指标重定向比例走势分析高重定向小区TOP30列表可分频点进行栅格覆盖分析区分室内外3利用MR/CHR 进行重定向栅格化定位,量化评估网络重定向性能面向网优工程师,利用核心网与无线数据拼接识别高铁用户,针对高铁区域以及用户进行高效、精准、低成本的覆盖以及性能评估1查询时间粒度:小时/天/周数据存储周期:≤14天(不含当天)高铁规模:10条/5000KM 数据源:MR&CHR&XDR or MME CHR (仅华为)离散粒度/定位规格:10~50米/0.5~1倍间距2高铁用户查准率达90%,识全率达40%区分频点、路段、上下行、用户组指标树拖拽分析/分析图表用户轨迹回放分析详单和信令流程分析3高铁虚拟路测面向网优工程师,提供道路级的覆盖地理化和事件地理化,提供统计和钻取分析,支撑关键道路的RF 问题的保障1查询时间粒度:小时/天数据存储周期:≤14天(不含当天)道路规模:10万条/5000KM 数据源:MR&CHR&MDT (覆盖&干扰类指标支撑北向-中兴)离散粒度/定位规格:10~50米2区分频点、路段、用户速度、仅MDT 、终端类型指标树拖拽分析/分析图表用户轨迹回放分析详单和信令流程分析3道路虚拟路测面向网优工程师,快速的发掘出基于不同指标的栅格级问题区域,识别出需要优化的问题区域。