当前位置:
文档之家› POWER大数据解决方案介绍及案例分享50
POWER大数据解决方案介绍及案例分享50
Power8创新CAPI接口,开放定制硬件加速
基于Power8 CAPI加速接口,为大数据进行硬件创新
虚拟寻址 • 加速器可以与处理器一样直接对内存进行寻址 • 与处理器运行程序一样使用指针 • 消除操作系统和设备驱动程序的额外开销
硬件管理的缓存一致性 • 使得加速器能作为正常线程参与“Locks”,降低 IO
内存分析
Power+DB2 BLU
Power8+CAPI+Flash,NoSQL内存数据库方案
The Market: Explosive growth of new mobile, social apps requiring lightening fast response at high volume
– Enabled by in-memory NoSQL, Key Value Stores like Redis
– Ordered (key, value) pairs provide type of in-memory, lightening fast distributed hash table
Number of Drives
Available Storage
12 14.4 TB
36 43.2 TB
Large POD – A
1 P8 S822L w/ 1 DCS3700
Large POD – A
3.5” 7.2K RPM 4 TB LFF SAS + 2.5” 10K RPM 1.2 TB SFF SAS
• 更大的IO带宽 • Flash加速
• 灵活的硬件配比支持从 计算密集到IO密集多种 计算类型
• 灵活定制硬件创新, CPU、GPU和混合计算
• 多种计算负载的混合调 度
Power8基于云的实时、敏捷、高效和开放的架构 才能满足新计算时代的需求
为Big Data 而设计
持续数据加载 海量IO带宽 网格扩展存储 极端Flash性能加速 认知计算能力 低延迟 性能
Storage Dense
Small POD
1 P8 S822L w/ Internal Drives
Medium POD
1 P8 S822L w/ EXP24S
Small POD
Medium POD
Drive Type 2.5” 10K RPM 1.2 TB SFF
SAS
2.5” 10K RPM 1.2 TB SFF SAS
Power8 —超大内存带宽
Power8更大的内存,更宽的内存带宽,更快的内容读写 意味着更适合内存计算场景和计算密集型场景
• 更大的内存数据库 • 更大的OLAP多维立方体 • 更快的内存思想性分析 • 更高效的实时数据分析
较POWER7内存带宽提升2.3倍,是x86的4倍
每处理器支持1TB内存,高达192 GB/sec内存带宽 单台Power8服务器最多可支持230.4 GB /sec内存带宽 史无前例的片上96MB L3 cache 创新内存缓存芯片,进一步提高内存读写速度
CPU
Memory( GB)
Core Number
Per core TPS performan
ce(TPS)
PK
DL 380p
E52650@2.2 Ghz
64
2*6=12 core physical box
1900
158
1
Power8282 Power8@3
-22A
.93GHz
16
dedicated 1 core LPAR
WWW
Power S822L/S812L Ubuntu 14.10
4U
FlashSystem 840 2TB to 40 TB Flash
19
The Issue: x86 memory limited by max RAM • Scale-out x86 servers limited memory size • Results in costly, complex infrastructure
可自定义的硬件应用程序加速器 • 特定的系统软件、中间件或用户应用程序
•向应用程序提供成熟的、稳定的接口 • 降低 CAPP 的复杂性和工作负载
• 写入 PSL 提供的持久接口
Agenda
• Power,为大数据而设计 • Power 大数据方案介绍 • 应用场景和案例分享
企业级市场的大数据应用机会
大数据的主要应用类型
海量数据 存储
简单查询
NoSQL 实时查询
实时性低
多应用混合 大数据平台
流式计算 实时性高
M-R批量 分析
MPP 数据仓库 复杂分析
内存数据 库
内存分析
IBM基于Power的大数据方案
简单查询
Power+CAPI+ Flash+NoSQL
海量数据 存储
Power+Symphony /GFSP+Hadoop
Load Balancer
WWW
24U
500GB Cache 50501N05GU0No0GBN0doxBG8eCdoN6BeaCdoceasCdheceaerhcveheer (24) 512 GB memory
The POWER8 + CAPI Flash as RAM Advantage: • New FLASH as RAM for Redis in-memory apps • Provides means for large FLASH exploitation • Lower cost memory, greater workload density • Dramatically reduce costs to deliver services • Can be offered as a cloud-based service or as an on-premise solution for enterprises
数据是新的自然 资源
基于数据的决策 更加复杂更加重要
数据的爆炸式增长 超出系统能力
4
大数据计算需要什么样的硬件平台?
• OLAPDW BigData
计算 密集
• SQL NoSQL NeБайду номын сангаасSQL
• RDBMS Hadoop Spark
• 批处理交互分析流计算
大数据处理技术的发展,对硬件提出 了更高的要求…
NoSQL 实时查询
Power+Stream
Spectrum Storage 实时性Po低wer+GPFS
多应用混合 大数据平台
流式计算 实时性高
M-R批量 分析
MPP 数据仓库
Power+Hadoop Power+SequoiaD
B
Power+DB2 DPF Power+GBase
复杂分析
内存数据 库
Power8 —更大的I/O带宽
更快的I/O读取意味着更适合数据密集型场景
• 更低的数据读写延迟 • 更高的数据读写速度 • 创新I/O协处理硬件,软件功能硬件加速
较POWER7, 内存带宽提升2.3倍
内置 PCIe Gen 3 支持
• 直接处理器集成 • 取代专属 GX/桥接 • 低延时 • Gen3 x16 带宽 (32 GB/s)
POWER8
Power8 I/O带宽测试
POWER7+
POWER7
POWER6 0
50
100
150
200
PCIe
Gen3
x8
x8
x16
x16
Power灵活配比方案,支持更多计算类型
Power大数据最佳实践 从计算密集型到数据密集型都有灵活的配比方案 性能、容量和成本的最佳平衡
Compute Dense
– Plays an important role in many large websites • GitHub, Amazon, Facebook, Twitter & more…
The Solution: POWER8 + CAPI FLASH as RAM - Up to 40 TB in 4U
更大容量更低成 本
更快的处理速度
工业仿真
图像渲染
HPC
流计算 游戏
风险分析
实时分析 /交互分析
消重 /归档
Map-Reduce
云存储
IO密集
支持多样化的计算 类型
• 横向扩展的能力 • 更大更多的磁盘 • 更少机器更少空
间和耗电
• 更低的造价
• 更快的CPU • 更多的线程并行
• 更大的内存容量和 带宽
软件定义+云化 开放和协作创新
私有云
混合云 Traditional IT
公有云
6
Power8 ----迄今最快的CPU
Power更强大的计算能力 意味着更快的数据洞察
• 查询报告 • 预测分析 • 认知计算
大数据和分布式并行计算场景, 仍然需要更强大的CPU
Power8性能对比测试
test machine
• More rational than last year, not only focusing on Hadoop platform • Telecom, Banking, Gov’t sectors will have more demands for advanced BD&A solutions • Help customers begin their Big Data Journey • Big data as services began to emerge in the market