x1 w1
xn … wn

y
y f (wT x )
历史简介-感知机和神经网络
历史： 1986，David Rumelhart, Geoff Hinton and Ronald J. Williams BP 2005-， Hinton,Bengio,Lecun, 深度学习
历史简介-HMM
增益率
G( D, a) Gr(D,a) IV (a) IV (a)
v 1 V
Dv D
log 2
Dv D
历史简介-RF
历史：
1995，Ho, Tin Kam ,RF 三个臭皮匠，赛过诸葛亮
数据的随机性选取， 待选特征的随机选取
历史简介-SVM
历史：
1963， Vladimir N. Vapnik ，SVM
预处理： 模型学习 去噪，图像分割等 特征提取：提取鱼的宽度和亮度特征
前言—机器学习方法
任务：判断传送带上的鱼是鲤鱼还是草鱼
前言—相关学科
统计分析
人工智能 脑认知模型 心理学模型 进化模型 最优化理论
模式识别 图像处理 数据挖掘 信息检索 自然语言处理 机器翻译 自动控制 …
历史：
1913， Andrey Markov，提出了马尔科夫链，
x1
x2
x3
x4
x5
P(X n+1 = x| X 1 = x1 ,X 2 = x2 ,...,X n = xn )= P(X n+1 = x| X n = xn )
历史简介-HMM
历史：
1960s， Ruslan L. Stratonovich， Leonard E. Baum，HMM 例子： 小明有个习惯，晴天去购物，阴天去散步，下雨天打扫屋子， 通过小明这几天在朋友圈发的状态，可以推断这几天的天气
…
机器学习：
Give computers the ability to learn without being explicitly programmed. --Arthur Samuel in 1959
前言—为什么需要机器学习
1.建模、知识获取
前言—为什么需要机器学习
2.更好理解人类和动物的学习机制
历史简介-贝叶斯决策理论
例子：
张三-黄皮肤、黑头发，他是哪个国家人？
argmax P(c | 张三 )
c
P(c)P( 张三 | c) P(c | 张三 )= P( 张三）
历史简介-感知机和神经网络
历史：
1957，Frank Rosenblatt 感知机， 1969，Marvin Minsky and Seymour Papert提出感知机的局限性
1967，最近邻
历史简介-RF
历史：
1979，Quinlan，决策树 ID3
信息增益
E (D) pk log 2 pk
k 1 Y
黄
皮肤 颜色
黑
头发 颜色
…
…
G( D, a) E ( D)
v 1
V
Dv D
E( D )
v
中文
精通 语言
中国 人
…
历史简介-RF
历史：
1993，Quinlan，C4.5
课程大纲
前言
机器学习发展历史简介
机器学习应用现状
历史简介-时间轴
1812 贝叶斯
1960s HMM
1967 最近邻
1986 BP
1997 AdaBoost
2014 人脸识别
1957
1965
感知机
k-均值
1982 Hopfield 网络
1995 RF，SVM
2005 深度学习
2016 AlphaGo 机器学习发展历简介 机器学习应用现状
应用现状-语音识别
应用现状-图像识别
应用现状-视频中目标识别
在线问答
Q &A
机器学习主流算法
课程地址
感谢各位聆听
Thanks for Listening
前言—为什么需要机器学习
3.自适应未知或多变的应用环境
前言—机器学习方法
1.有监督学习
小狗 小猫
前言—机器学习方法
2.无监督学习
前言—机器学习方法
传统的机器学习流程
数据获取
预处理
特征提取
模型学习
前言—机器学习方法
任务：判断传送带上的鱼是鲤鱼还是草鱼 数据获取：架设一个摄像机，采集一些样本图像
历史简介-贝叶斯决策理论
历史：
1812，Pierre-Simon Laplace 提出了贝叶斯定理， 1950s,朴素贝叶斯 1985，Judea Pearl，贝叶斯网络，图灵奖
P(x | c)P(c) P(c | x)= P(x)
P(c) d P(c | x)= P(xi | c) P(x) i=1
散步
散步
打扫
购物
散步
历史简介-聚类
历史：
1967，James MacQueen ，首次使用K-means这个词
历史简介-聚类
历史：
1990，Kaufman，AGNES 层次聚类
历史简介-聚类
聚类的应用
商业上刻画不同的用户群
生物上对基因分类
图像分割
模式分类
…
历史简介-K近邻
历史：
弱分类器
历史简介-AdaBoost
历史：
1997， Yoav Freund and Robert E.Schapire ， AdaBoost
分类器集成、样本重新赋权重
历史简介-AdaBoost
历史：
2001，Paul Viola and Michael Jones，目标检测
课程大纲
前言
历史简介-SVM
历史：
1992， Bernhard E. Boser ， 核方法
K(xi ,x j )= (xi ) (x j )
T
历史简介-SVM
历史：
1995， Corinna Cortes and Vapnik ，软间隔
历史简介-AdaBoost
历史：
1990， Robert Schapire，Boosting
机器学习应用与发展
主讲人 邵博士
课程大纲
前言
机器学习发展历史简介 机器学习应用现状
课程大纲
前言
什么是机器学习
为什么需要机器学习
机器学习方法
相关学科
机器学习发展历史简介
机器学习应用现状
前言—什么是机器学习
学习：
获取知识或技能 通过传授方式使得更好理解或更擅长某件事