朴素贝叶斯法(精品课件)
• 贝叶斯推断:
我们把P(A)称为”先验概率”(Prior probability),即 在B事件发生之前,我们对A事件概率的一个判断。
P(A|B)称为”后验概率”(Posterior probability),即 在B事件发生之后,我们对A事件概率的重新评估。
P(B|A)/P(B)称为”可能性函数”(Likelyhood),这是 一个调整因子,使得预估概率更接近真实概率。
• 如果p1(x,y) > p2(x,y),那么类别为1 • 如果p1(x,y) < p2(x,y),那么类别为2
贝叶斯决策理论核心思想:选择高概率对应的类别。
5* 1.2
贝叶图斯形决绘策制论 图朴片素处贝叶理斯分图类表器设半计朴素贝典叶型斯案分例类器 程序
贝叶斯决策论还需了解:
1、条件概率:即B发生的情况下A发生的概率,用P(A|B)表示。
朴素贝 叶斯分 类器
半朴素 贝叶斯 分类器
西瓜程 序
2
3
过渡页
1
Transition Page
4
*
* 2.1
贝叶斯决策论 朴图素片贝处叶理斯分类器 半朴素贝叶斯分类器 程序
基于贝叶斯公式估计后验概率P(c|x)的主要困难在于: 类条件概率P(x|c)是所有属性上的联合概率,较难估计。为了避开这个障碍,提出了朴素贝叶斯分类器 (naïve Bayes classifier) “朴素”:采用属性条件独立性假设——假设用于分类的特征在类确定的条件下都是条件独立的。
4
*
* 3.1
贝叶斯决策论 朴素贝叶斯分类器 半朴素贝叶斯分类器 程序 独
1*5 3.2
贝图叶形斯绘决制策论 图朴素片贝处叶理斯分类图器表设半计朴素典贝型叶案斯例分类器 程序
1*6 3.2
贝图叶形斯绘决制策论 图朴素片贝处叶理斯分类图器表设半计朴素典贝型叶案斯例分类器 程序
1*7 3.2
贝图叶形斯绘决制策论 图朴素片贝处叶理斯分类图器表设半计朴素典贝型叶案斯例分类器 程序
*
图形绘制 图片处理 图表设计 典型案例
朴素贝叶斯分类法
By 戴非凡 Date 2018.4.4
*
图形绘制 图片处理 图表设计 典型案例
贝叶斯 决策论
朴素贝 叶斯分 类器
半朴素 贝叶斯 分类器
西瓜程 序
2
3
目录页
ቤተ መጻሕፍቲ ባይዱ
1
Contents Page
4
*
*
图形绘制 图片处理 图表设计 典型案例
贝叶斯 决策论
*
图形绘制 图片处理 图表设计 典型案例
贝叶斯 决策论
朴素贝 叶斯分 类器
半朴素 贝叶斯 分类器
西瓜程 序
2
3
过渡页
1
Transition Page
4
*
* 4.1 训练集及测试集
贝叶斯决策论 朴素贝叶斯分类器 半朴素贝叶斯分类器 程序
2* 0
图形绘制 图片处理 图表设计 典型案例
谢谢观赏
2
3
结束页
在1.1提到贝叶斯决策理论要求计算两个概率p1(x,y)和p2(x,y): • 如果p1(x,y) > p2(x,y),那么类别为1 • 如果p1(x,y) < p2(x,y),那么类别为2 p1,p2即为后验概率p1(c1|x,y),p2(c2|x,y)
*
图形绘制 图片处理 图表设计 典型案例
贝叶斯 决策论
1*0 2.2
贝叶图斯形决绘策论制 朴图素片贝处叶理斯分图类表器设计半朴素典贝型叶案斯例分类器 程序
1*1 2.3
For example: 数据集为:
贝叶图斯形决绘策论制 朴图素片贝处叶理斯分图类表器设计半朴素典贝型叶案斯例分类器 程序
测试集为: 青绿 蜷缩 浊响 清晰 凹陷 硬滑 0.697 0.460 ? 是
1
Trailer Page
4
*
21
图形绘制 图片处理 图表设计 典型案例
谢谢观看
精品PPT,下载后可编辑使用非常方便
2020/8/9
21
1*2 2.4
贝叶图斯形决绘策论制 朴图素片贝处叶理斯分图类表器设计半朴素典贝型叶案斯例分类器 程序
Python_programme: 朴素贝叶斯分类函数
*
图形绘制 图片处理 图表设计 典型案例
贝叶斯 决策论
朴素贝 叶斯分 类器
半朴素 贝叶斯 分类器
西瓜程 序
2
3
过渡页
1
Transition Page
6* 1.2
贝叶图斯形决绘策制论 图朴片素处贝叶理斯分图类表器设半计朴素贝典叶型斯案分例类器 程序
2、全概率公式:如果A和A’构成样本空间的一个划分,那么事件B的概率,就等于A和A’的概率分别乘以 B对这两个事件的条件概率之和。
7* 1.3
贝叶图斯形决绘策制论 图朴片素处贝叶理斯分图类表器设半计朴素贝典叶型斯案分例类器 程序
朴素贝 叶斯分 类器
半朴素 贝叶斯 分类器
西瓜程 序
2
3
过渡页
1
Transition Page
4
*
* 1.1
贝叶图斯形决绘策制论 朴素贝叶斯分类器 半朴素贝叶斯分类器 程序
① 贝叶斯决策论(Bayesian decision theory)是概率框架下实施决策的基本方法。
用p1(x,y)表示数据点(x,y)属于类别1(图中红色圆点表示的类别)的 概率,用p2(x,y)表示数据点(x,y)属于类别2(图中蓝色三角形表示 的类别)的概率,那么对于一个新数据点(x,y),可以用下面的规则 来判断它的类别: