朴素贝叶斯法
• 如果p1(x,y) > p2(x,y),那么类别为1 • 如果p1(x,y) < p2(x,y),那么类别为2
贝叶斯决策理论核心思想:选择高概率对应的类别。
* 1.2
贝叶图斯形决绘策制论 朴素贝叶斯分类器 半朴素贝叶斯分类器 程序
贝叶斯决策论还需了解:
1、条件概率:即B发生的情况下A发生的概率,用P(A|B)表示。
P(A|B)称为”后验概率”(Posterior probability),即 在B事件发生之后,我们对A事件概率的重新评估。
P(B|A)/P(B)称为”可能性函数”(Likelyhood),这是 一个调整因子,使得预估概率更接近真实概率。
在1.1提到贝叶斯决策理论要求计算两个概率p1(x,y)和p2(x,y): • 如果p1(x,y) > p2(x,y),那么类别为1 • 如果p1(x,y) < p2(x,y),那么类别为2 p1,p2即为后验概率p1(c1|x,y),p2(c2|x,y)
* 3.2
贝叶斯决策论 朴素贝叶斯分类器 半朴素贝叶斯分类器 程序
* 3.2
贝叶斯决策论 朴素贝叶斯分类器 半朴素贝叶斯分类器 程序
*
图形绘制 图片处理 图表设计 典型案例
贝叶斯 决策论
朴素贝 叶斯分Biblioteka 类器半朴素 贝叶斯 分类器
西瓜程 序
2
3
过渡页
1
Transition Page
4
*
* 4.1 训练集及测试集
贝叶斯决策论 朴素贝叶斯分类器 半朴素贝叶斯分类器 程序
*
图形绘制 图片处理 图表设计 典型案例
谢谢观赏
2
3
结束页
1
Trailer Page
4
*
*
图形绘制 图片处理 图表设计 典型案例
贝叶斯 决策论
朴素贝 叶斯分 类器
半朴素 贝叶斯 分类器
西瓜程 序
2
3
过渡页
1
Transition Page
4
*
* 2.1
贝叶斯决策论 朴图素片贝处叶理斯分类器 半朴素贝叶斯分类器 程序
基于贝叶斯公式估计后验概率P(c|x)的主要困难在于: 类条件概率P(x|c)是所有属性上的联合概率,较难估计。为了避开这个障碍,提出了朴素贝叶斯分类器 (naïve Bayes classifier) “朴素”:采用属性条件独立性假设——假设用于分类的特征在类确定的条件下都是条件独立的。
* 1.2
贝叶图斯形决绘策制论 朴素贝叶斯分类器 半朴素贝叶斯分类器 程序
2、全概率公式:如果A和A’构成样本空间的一个划分,那么事件B的概率,就等于A和A’的概率分别乘以 B对这两个事件的条件概率之和。
* 1.3
贝叶图斯形决绘策制论 朴素贝叶斯分类器 半朴素贝叶斯分类器 程序
• 贝叶斯推断:
我们把P(A)称为”先验概率”(Prior probability),即 在B事件发生之前,我们对A事件概率的一个判断。
Python_programme: 朴素贝叶斯分类函数
*
图形绘制 图片处理 图表设计 典型案例
贝叶斯 决策论
朴素贝 叶斯分 类器
半朴素 贝叶斯 分类器
西瓜程 序
2
3
过渡页
1
Transition Page
4
*
* 3.1
贝叶斯决策论 朴素贝叶斯分类器 半朴素贝叶斯分类器 程序 独
* 3.2
贝叶斯决策论 朴素贝叶斯分类器 半朴素贝叶斯分类器 程序
*
图形绘制 图片处理 图表设计 典型案例
贝叶斯 决策论
朴素贝 叶斯分 类器
半朴素 贝叶斯 分类器
西瓜程 序
2
3
目录页
1
Contents Page
4
*
*
图形绘制 图片处理 图表设计 典型案例
贝叶斯 决策论
朴素贝 叶斯分 类器
半朴素 贝叶斯 分类器
西瓜程 序
2
3
过渡页
1
Transition Page
4
* 2.2
贝叶斯决策论 朴图素片贝处叶理斯分类器 半朴素贝叶斯分类器 程序
* 2.3
For example: 数据集为:
贝叶斯决策论 朴图素片贝处叶理斯分类器 半朴素贝叶斯分类器 程序
测试集为: 青绿 蜷缩 浊响 清晰 凹陷 硬滑 0.697 0.460 ? 是
* 2.4
贝叶斯决策论 朴图素片贝处叶理斯分类器 半朴素贝叶斯分类器 程序
*
* 1.1
贝叶图斯形决绘策制论 朴素贝叶斯分类器 半朴素贝叶斯分类器 程序
① 贝叶斯决策论(Bayesian decision theory)是概率框架下实施决策的基本方法。
用p1(x,y)表示数据点(x,y)属于类别1(图中红色圆点表示的类别)的 概率,用p2(x,y)表示数据点(x,y)属于类别2(图中蓝色三角形表 示的类别)的概率,那么对于一个新数据点(x,y),可以用下面的 规则来判断它的类别: