当前位置:
文档之家› 大数据时代--大数据的定义,理解和应用
大数据时代--大数据的定义,理解和应用
4
大数据时代的爆炸增长
地球上至今总共的数据量:
PB EB ZB
TB
GB
1PB = 2^50字节 1EB = 2^60字节 1ZB = 2^70字节
在2006 年,个人用户才刚刚迈进TB时代,全球 一共新产生了约180EB的数据;
在2011 年,这个数字达到了1.8ZB。
而有市场研究机构预测: 到2020 年,整个世界的数据总量将会增长44 倍, 达到35.2ZB(1ZB=10 亿TB)!
• 在安防领域,应用大数据技术,提高应急处置能力和安全防范能力; • 在民生领域,应用大数据技术,提升服务能力和运作效率,以及个性化
的服务,比如医疗、卫生、教育等部门; • 解决在金融,电信领域等中数据分析的问题:一直得到得极大的重视,
但受困于存储能力和计算能力的限制,只局限在交易数型数据的统计分 析;
海量数据处理: 大数据的涌现已经催生出了设计用于数据密集型处理的 架构。例如具有开放源码、在商品硬件群中运行的 Apache Hadoop。
7
目录
大数据的定义
理解大数据
相关技术与应用
8
1、密不可分的大数据与云计算
大数据是落地的云
商业模式驱动
应用需求驱动
云计算本身也是大数据的一种业务模式
• 云计算的模式是业务模式,本质是数据处理技术。 • 数据是资产,云为数据资产提供存储、访问和计算。 • 当前云计算更偏重海量存储和计算,以及提供的云服务,运行云应用,但是缺乏盘
活数据资产的能力,挖掘价值性信息和预测性分析,为国家、企业、个人提供决策 和服务,是大数据核心议题,也是云计算的最终方向。
9
2、大数据不仅仅是“大”
多大? 至少PB
级
比大更重要的是 数据的复杂性, 有时甚至大数据 中的小数据如一 条微博就具有颠
覆性的价值
10
3、软件是大数据的引擎
和数据中心(Data Center) 一样,软 件是大数据的驱动力 ,软件改变世界
大数据时代
Newland Enterprise Solutions Copyright @Newland corporation 2011 All Right Reset 了!
反对派认为,我们现在处在一个盲目的大数据崇拜时代
2
目录
大数据的定义
理解大数据 相关技术与应用
11
大数据生态:软件是引擎
12
4、大数据的应用不仅仅是精准营销
• 通过用户行为分析实现精准营销是大数据的典型 应用,但是大数据在各行各业特别是公共服务领 域具有广阔的应用前景
消费 行业
金融 服务
食品 安全
医疗 卫生
军事
交通 环保
电子 商务
气象
13
5、管理大数据“易”理解大数据“难”
• 虽然大数据是一个重大问题,真正的问题 是让大数据更有意义
3
大数据时代的背景
“大数据”的诞生:
半个世纪以来,随着计算机技术全面融入社会生活,信息爆炸已经积累到了一个开始引发变革的 程度。它不仅使世界充斥着比以往更多的信息,而且其增长速度也在加快。信息爆炸的学科如天文学 和基因学,创造出了“大数据”这个概念*。如今,这个概念几乎应用到了所有人类智力与发展的领域 中。
难点:
• 1、在最初就合理规划智慧城市(深度思考哪些领域能够运用);
• 2、在城市发展基础设施和“云产业”的同时,更多重视“数据”的价值;
智能 感知
• 3、在大数据处理领域的核心技术不足,需要政府更大的投入。
协同 共享
“智慧 大脑”
互联 互通
智能 运营
19
更多行业的应用
政府、金融、电信等行业投资建立大数据的处理分析手段,实现综合治理、业务开拓等目 标;应用到制造等更多行业。
软件被称为bigsheet,软件目的是帮助从大量数据中轻松、简单、直观的提取、批注相关信息 为金融,风险管理,媒体和娱乐等行业量身定做的行业解决方案
微软: • 2011年1月与惠普(具体而言是HP数据库综合应用部门) 合作目标是开发了一系列能够提升生产力和
提高决策速度的设备。
EMC: • EMC 斩获了纽交所和Nasdaq; • 大数据解决方案已包括40多个产品。
• 模型预测:预测模型;机器学习;建模仿真
不利于检索、查询和存储
• 半结构化数据
转换为结构化存储
按照非结构化存储
➢ 大数据技术:
➢ 解决方案:
• 数据采集:ETL工具 • 数据存取:关系数据库;NoSQL;SQL等 • 基础架构支持:云存储;分布式文件系统等 • 计算结果展现:云计算;标签云;关系图等
想驾驭这庞大的数据,我们必 须了解大数据的特征。
5
大数据的4V特征
Volume
Variety
Velocity
Value
“大量化(Volume)、多样化(Variety)、快速化(Velocity)、价值密度低(Value)”就是 “大数据”的显著特征,或者说,只有具备这些特点的数据,才是大数据。
6
《大数据时代》
21
大数据带来的机遇
大数据赋予我们洞察未来的能力
马云成功预测2008 年经济危机 • “2008 年初,阿里巴巴平台上整个买家询盘数急剧下滑,欧美对中国采购在
下滑。海关是卖了货,出去以后再获得数据;我们提前半年时间从询盘上推 断出世界贸易发生变化了。” • 通常而言,买家在采购商品前,会比较多家供应商的产品,反映到阿里巴巴 网站统计数据中,就是查询点击的数量和购买点击的数量会保持一个相对的 数值,综合各个维度的数据可建立用户行为模型。因为数据样本巨大,保证用 户行为模型的准确性。因此在这个案例中,询盘数据的下降,自然导致买盘 的下降。
人类从依靠自身判断做决定到依靠数据做决定的转变,也是大 数据作出的最大贡献之一。——《大数据时代》
22
未来IT投资重心转移
结构化数据向非结 构化数据演进,使 得未来IT投资重点 不再是建系统为核 心,而是围绕大数 据为核心; 海量数据可以在各 个部门创造重大的 财物价值,未来投 资倾斜。
23
Thanks
理;IBM Mashup Center的计量,监测,和商业化服务(MMMS) • IBM的大数据产品组合中的最新系列产品的InfoSphere bigInsights,基于Apache Hadoop。 • 该产品组合包括: • 打包的Apache Hadoop的软件和服务,代号是bigInsights核心,用于开始大数据分析
…
facebook 社交网络
电子商务
淘宝、 ebuy
…
…
微博、 Apps
移动互联
21世纪是数据信息大发展的时 代,移动互联、社交网络、电子商务 等极大拓展了互联网的边界和应用范 围,各种数据正在迅速膨胀并变大。
互联网(社交、搜索、电商)、移动 互联网(微博)、物联网(传感器, 智慧地球)、车联网、GPS、医学影 像、安全监控、金融(银行、股市、 保险)、电信(通话、短信)都在疯 狂产生着数据。
政府投入将形成示范效应,大大推动大数据的发展。
18
大数据的应用 ——热点:智慧城市
• 美国奥巴马政府在白宫网站发布《大数据研究和发展倡议》,提出“通过收集、处理庞大而复杂的 数据信息,从中获得知识和洞见,提升能力,加快科学、工程领域的创新步伐,强化美国国土安全, 转变教育和学习模式” ;
• 中国工程院院士邬贺铨说道,“智慧城市是使用智能计算技术使得城市的关键基础设施的组成和服 务更智能、互联和有效,随着智慧城市的建设,社会将步入“大数据”时代。”
• Hadoop(MapReduce技术) • 流计算(twitter的storm和yahoo!的S4)
数据采集
数据管理
数据储存
数据分析与挖掘
16
大数据的应用
——企业在投入
行业拓展者,打造大数据行业基石:
IBM: • IBM大数据提供的服务包括数据分析,文本分析,蓝色云杉(混搭供电合作的网络平台);业务事件处
相关技术与应用
15
一些相关技术
➢ 分析技术:
➢ 存储
• 数据处理:自然语言处理技术
• 结构化数据:
• 统计和分析:A/B test; top N排行榜;地域占比;
海量数据的查询、统计、更新等操作效率低
文本情感分析
• 非结构化数据
• 数据挖掘:关联规则分析;分类;聚类
图片、视频、word、pdf、ppt等文件存储
• 目前大数据管理多从架构和并行等方面考 虑,解决高并发数据存取的性能要求及数 据存储的横向扩展,但对非结构化数据的 内容理解仍缺乏实质性的突破和进展,这 是实现大数据资源化、知识化、普适化的 核心
• 非结构化海量信息的智能化处理:自然语 言理解、多媒体内容理解、机器学习等
14
目录
大数据的定义 理解大数据
大数据的构成
大数据包括: 交易数据和交互数据 集在内的所有数据集
大数据 = 海量数据 + 复杂类型的数据
海量交易数据: 企业内部的经营交易信息主要包括联机交易数据和联机 分析数据,是结构化的、通过关系数据库进行管理和访 问的静态、历史数据。通过这些数据,我们能了解过去 发生了什么。
海量交互数据: 源于Facebook、Twitter、LinkedIn及其他来源的社交 媒体数据构成。它包括了呼叫详细记录CDR、设备和传 感器信息、GPS和地理定位映射数据、通过管理文件传 输Manage File Transfer协议传送的海量图像文件、 Web文本和点击流数据、科学信息、电子邮件等等。可 以告诉我们未来会发生什么。
大数据价值链的3大构成:数据本身、技能与思维 其中三者兼具的又谷歌公司,谷歌在刚开始收集数据的时候就已经有多次使用数据的想