深度学习的发展历程
深度学习原理与Tensorflow实践
1.2
黄理灿 ©2019
引言
人工智能、机器学习、人工神经网络、深度学习的关系
深度学习原理与Tensorflow实践
1.3
黄理灿 ©2019
深度学习的发展历程
深度学习原理与Tensorflow实践
神经网络的发展历程
1.4
黄理灿 ©2019
深度学习的发展历程
第一阶段, 1943年到1969年, 提出神经元数学模型到单层感知机 第二阶段,1986年到1998年,提出和应用反向传播算法 第三阶段,2006年—迄今, 提出深度学习及其广泛应用
2012 年 , Hinton 课 题 组 为 了 证 明 深 度 学 习 的 潜 力 , 首 次 参 加 ImageNet 图 像 识 别 比 赛 , 其 通 过 构 建 的 卷 积 神 经 网 络( CNN ) AlexNet一举夺得冠军。 2014年,Cho, K等人提出了循环神经网络编码器解码器 (RNN Encoder-Decoder),用于机器翻译。
深度学习原理与Tensorflow实践
1.8
黄理灿 ©2019
TensorFlow的应用现状
深度学习原理与Tensorflow实践
部分使用TensorFlow的公司
1.9
黄理灿 ©2019
深度学习对人类社会经济的重要作用
医疗方面,科学家利用TensorFlow搭建根据视网膜来预防糖尿病致 盲的系统; Magenta: 音乐和艺术生成。 AlphaGo: 第一次在围棋上打败人类,然后升级版的Master 连续60 盘不败。 WaveNet:语音音频合成。 。。。。。。
深度学习原理与Tensorflow实践
1.7
黄理灿 ©2019
TensorFlow的应用现状
2010年开始,Google Brain建立DistBelief作为他们的第一代专有的 机器学习系统。 Geoffrey Hinton和Jeff Dean领导下,简化和重构DistBelief的代码库 ,使其变成一个更快、更健壮的应用级别代码库,以TensorFlow名 称于2015年11月9日在Apache 2.0开源许可证下发布。
深度学习原理与Tensorflow实践
1.10
黄理灿 ©2019
第一章结束
2016年4月14日,Google发布了重大的更新版本0.8---分布式 TensorFlow。 2016年6月,TensorFlow发布了版本0.9,增加了对iOS的支持。 2017年2月15日晚,谷歌在加州山景城举办史上第一届TensorFlow 开发者峰会。在揭幕的TensorFlow 开发者峰会上,谷歌正式发布了 TensorFlow 1.0 版本。 目前, TensorFlow 2.0版本。
深度学习原理与Tensorflow实践
1.5
黄理灿 ©2019
深度学习的发展历程
美国心理学家麦卡洛克(McCulloch, W. S. )和数学家皮特斯((Puts , W.)等在1943年参考了生物神经元的结构,发表了抽象的神经元模 型--麦卡洛克-皮特斯模型(McCulloch-Pitts model ), 简称MP模型, 开启了人工神经网络的研究。 罗森布拉特(Rosenblatt)于1958年提出了感知机(perceptron) 算法。 辛顿(Hinton)于1986年提出了适用于多层感知机的反向传播算法 (BP算法)。
深度学习原理与Tensorflow实践
1.6
黄理灿 ©2019
深度学习的发展历程
1989年,Robert Hecht-Nielsen证明了MLP的万能逼近定理,即对于 任何闭区间内的一个连续函数f,都可以用含有一个隐含层的BP网络 来逼近。
在1989年,LeCun发明了卷积神经网络-LeNet,并将其用于数字识 别。
第一章 绪 论
引言 深度学习的发展历程 TensorFlow的应用现状 深度学习对人类社会与经济的重要作用
深度学习原理与Tensorflow实践
1.1
黄理灿 ©2019
引言
未来10年人工智能将对世界带来颠覆性的变化,人工智能将变得无 处不在。 人工智能不仅是各大公司的战略重点,也是全球各大国家的战略重 点。未来的国家之间的竞争大部分将取决于人工智能的竞争。而归 根到底,是人工智能的人才竞争。 我国深度学习的人才缺口非常大。 深度学习人才分为两类:研究新理 论和模型的高级研究人才和各领 域的深度学习应用人才。