机器学习应用与发展主讲人
邵博士
✓前言
✓机器学习发展历史简介✓机器学习应用现状
✓前言
⏹什么是机器学习
⏹为什么需要机器学习
⏹机器学习方法
⏹相关学科
✓机器学习发展历史简介✓机器学习应用现状
前言—什么是机器学习
学习：
获取知识或技能
通过传授方式使得更好理解或更擅长某件事
…
机器学习：
Give computers the ability to learn without being explicitly programmed.
--Arthur Samuel in 1959
1.建模、知识获取
2.更好理解人类和动物的学习机制
3.自适应未知或多变的应用环境
1.有监督学习
小狗
小猫
2.无监督学习
数据获取
预处理特征提取模型学习
传统的机器学习流程
任务：判断传送带上的鱼是鲤鱼还是草鱼
✓数据获取：架设一个摄像机，采集一些样本图像✓预处理：去噪，图像分割等
✓特征提取：提取鱼的宽度和亮度特征
✓模型学习
任务：判断传送带上的鱼是鲤鱼还是草鱼
前言—相关学科
统计分析 人工智能 脑认知模型 心理学模型 进化模型 最优化理论 模式识别
图像处理
数据挖掘
信息检索
自然语言处理 机器翻译
自动控制 …
课程大纲
✓前言
✓机器学习发展历史简介✓机器学习应用现状
历史简介-时间轴
1812
贝叶斯
1957
感知机1960s
HMM
1965
k-均值
1967
最近邻
1982
Hopfield
网络
1986
BP
1995
RF，SVM
1997
AdaBoost
2005
深度学习
2014
人脸识别
2016
AlphaGo
历史：
✓1812，Pierre-Simon Laplace 提出了贝叶斯定理，✓1950s,朴素贝叶斯
✓1985，Judea Pearl，贝叶斯网络，图灵奖
P(x|c)P(c) P(c|x)=
P(x)
d
i
i=1
P(c)
P(c|x)=P(x|c)
P(x)
例子：
张三-黄皮肤、黑头发，他是哪个国家人？
c
argmax P(c|)
张三P(c)P(|c)
P(c|)=
P(张三张三张三）
历史：
✓1957，Frank Rosenblatt 感知机，
✓1969，Marvin Minsky and Seymour Papert提出感知机的局限性
x1 x n
θ
y
(w x)
T
y fθ
=-
w1
w n
…
历史：
✓1986，David Rumelhart, Geoff Hinton and Ronald J. Williams BP ✓2005-， Hinton,Bengio,Lecun, 深度学习
历史简介-HMM
历史：
1913， Andrey Markov，提出了马尔科夫链，
x1 x2 x3 x4 x5
P(X=x|X=x,X=x,...,X=x)=P(X=x|X=x) n+11122n n n+1n n
历史：
1960s， Ruslan L. Stratonovich， Leonard E. Baum，HMM
例子：
小明有个习惯，晴天去购物，阴天去散步，下雨天打扫屋子，通过小明这几天在朋友圈发的状态，可以推断这几天的天气
散步散步打扫购物散步
历史：
1967，James MacQueen ，首次使用K-means这个词
历史：
1990，Kaufman，AGNES 层次聚类
聚类的应用
✓商业上刻画不同的用户群✓生物上对基因分类
✓图像分割
✓模式分类
✓…
历史简介-K近邻
历史：
1967，最近邻
历史：
1979，Quinlan ，决策树 ID3 皮肤颜色
头发颜色
精通语言
中国人
黄
黑
中文
… …
…
信息增益
21(D)log Y
k k
k E p p ==-∑1
(,)()()
v V
v
v D G D a E D E D D
==-∑
历史：
1993，Quinlan ，C4.5 2
1(,)
Gr(D,a)()()log v
v
V
v G D a IV a D
D
IV a D
D
==
=-∑
增益率
历史：
1995，Ho, Tin Kam ,RF 三个臭皮匠，赛过诸葛亮数据的随机性选取，
待选特征的随机选取
历史：
1963， Vladimir N. Vapnik ，SVM
历史：
1992， Bernhard E. Boser ， 核方法
T
i j i j K(x ,x )=(x )(x )
φφ
历史简介-SVM
历史：
1995， Corinna Cortes and Vapnik ，软间隔
历史：
1990，Robert Schapire，Boosting
弱分类器
历史：
1997， Yoav Freund and Robert E.Schapire ， AdaBoost
分类器集成、样本重新赋权重
历史：
2001，Paul Viola and Michael Jones，目标检测
课程大纲
✓前言
✓机器学习发展历史简介✓机器学习应用现状
应用现状-语音识别
应用现状-图像识别
应用现状-视频中目标识别
在线问答
Q &A
机器学习主流算法
课程地址感谢各位聆听
Thanks for Listening。