贝叶斯定理及应用中央民族大学孙媛一贝叶斯定理一、贝叶斯定理贝叶斯定理（Bayes‘ theorem）由英国数学家托马斯贝叶斯（Thomas Bayes）·Thomas Bayes 在1763年发表的一篇论文中，首先提出了这个定理。
用来描述两个条件概率之间的这个定理关系，比如P(A|B) 和P(B|A)。
一、贝叶斯定理一贝叶斯定理所谓的贝叶斯定理源于他生前为解决一个“逆概”问题写的一篇文章，而这篇文章是在他死后才由他的一位朋友发表出来的。
在贝叶斯写这篇文章之前，人们已经能够计算“正向概率”，如假设袋子里面有N 个白球，M 个黑球，你伸手进去摸一如“假设袋子里面有N个白球M个黑球你伸手进去摸一把，摸出黑球的概率是多大”。
而一个自然而然的问题是反过来：“如果我们事先并不知道袋子里面黑白球的比例，而是闭着眼睛摸出一个（或好几个）球，观察这些取出来的球的颜色之后，那么我们可以就此对袋子里面的黑白球的比例作出什么样的推测。
这个问题，就是所谓的逆向概率问题。
样的推测”。
这个问题就是所谓的逆向概率问题。
一、贝叶斯定理一贝叶斯定理←实际上就是计算"条件概率"的公式。
p y，←所谓"条件概率"（Conditional probability），就是指在事件B发生的情况下，事件A发生的概率，用P(A|B)来表示。
的先验概率之所以称为先验是因为它不考虑任何←P(A)是A的先验概率，之所以称为先验是因为它不考虑任何B的因素。
←P(A|B)是在B发生时A发生的条件概率，称作A的后验概率。
←P(B)是B的先验概率。
←P(B|A)是在A发生时B发生的条件概率，称作B的后验概率。
贝叶斯定理与其他统计学推断方法截然不同它建立在主←贝叶斯定理与其他统计学推断方法截然不同。
它建立在主观判断的基础上，也就是说，你可以不需要客观证据，先估计一个值，然后根据实际结果不断修正。
正是因为它的主观性太强，曾经遭到许多统计学家的诟病。
←贝叶斯定理需要大量的计算，因此历史上很长一段时间，无法得到广泛应用。
只有计算机诞生以后，它才获得真正的重视。
人们发现，许多统计量是无法事先进行客观判断的，而互联网时代出现的大型数据集，再加上高速运算能力，为验证这些统计量提供了方便，也为应用贝叶斯定理力为验证这些统计量提供了方便也为应用贝叶斯定理创造了条件，它的威力正在日益显现。
一贝叶斯定理一、贝叶斯定理根据文氏图，可以很清楚地看到在事件B发生的情况下，事件A发生的概率就是生的情况下事件P(A∩B)除以P(B)。
一、贝叶斯定理一贝叶斯定理贝叶斯公式的用途在于通过己知三个概率来推测第四个概率。
它的内容是：在B 出现的前测第四个概率它的内容是B提下，出现的概率等于出现的前提下A A B出现的概率乘以A 出现的概率再除以B 出现的概率。
通过联系A 与B，计算从一个事件发生的情况下另一事件发生的概率，即从结果发生的情况下另事件发生的概率即从结果溯到源头即概率上溯到源头（也即逆向概率）。
一、贝叶斯定理一贝叶斯定理通俗地讲就是当你不能确定某一个事件发生的概率时你可以依靠与该事件本质属性相关的概率时，你可以依靠与该事件本质属性相关的事件发生的概率去推测该事件发生的概率。
用事件发生的概率去推测该事件发生的概率数学语言表达就是：支持某项属性的事件发生得愈多，则该事件发生的可能性就愈大。
这个推理过程有时候也叫贝叶斯推理。
二、全概率公式二全概率公式←假定样本空间S，是两个事件A与A'的和。
←上图中，红色部分是事件A，绿色部分是事件A'，它们共同构成了样本空间S。
在这种情况下，事件B可以划分成两个部分。
二、全概率公式二全概率公式←这就是全概率公式。
它的含义是，如果A和A'构成样本空间的一个划分，那么事件A'间的个划分，那么事件B的概率，就等于A和A的概率分别乘以B对这两个事件的条件概率之和。
←将这个公式代入上一节的条件概率公式，就得到了条件概率的另种写法：率的另一种写法：例1：随机选球问题设有个各个球的箱箱 假设有两个各装了100个球的箱子，甲箱子，绿，中有70个红球，30个绿球，乙箱子中有30个红球，70个绿球。
假设随机选择其中一个箱子，从中拿出个球记下球色再放回个箱子从中拿出一个球记下球色再放回原箱子，如果得到的球是红球。
问认为被选择的箱子是甲箱子的概率有多大？←刚开始选择甲乙两箱子的先验概率都是50%，因为是随机是贝斯定的因为是随机二选一（这是贝叶斯定理二选一的特殊形式）。
即有：)=05)=1-←P(甲) = 0.5，P(乙) = 1 -P(甲)；←这时在拿出一个球是红球的情况下，我们就应该根据这个信息来更新选择的是甲箱子的先验概率：←P(甲|红球1) = P(红球|甲) ×P(甲) / (P(红球|甲)(甲)((红球|乙)(乙)))) ×P() + (P() ×P(P(红球|甲)：甲箱子中拿到红球的概率P(红球|乙)：乙箱子中拿到红球的概率←因此在出现一个红球的情况下，选择的是验概就可修甲箱子的先验概率就可被修正为：←P(甲|红球1) = 0.7 ×0.5 / (0.7 ×0.5 + 0.3 ×0.5) = 0.70305)=07←这表明，来自甲箱子的概率是0.7。
也就是说，取出红球之后，甲箱子的可能性得到了增强。
←如果选中的是一个绿球，问甲箱子的概率多有多大？红球修正（概率增加），绿球修正（概率←减少）三贝叶斯推断的含义三、贝叶斯推断的含义←对条件概率公式进行变形，可以得到如下形式：对条件概率公式进行变形，可以得到如下形式←我们把P(A)称为“先验概率”（Prior probability ），即在B 事件发生之前，我们对A 事件概率的一个判断。
“”Posterior probability ）←P(A|B)称为后验概率（Posterior probability ），即在B 事件发生之后，我们对A 事件概率的重新评估。
←P(B|A)/P(B)称为“可能性函数”（Likelyhood ），这是个调整因使得估概率接近真实概率|y 这是一个调整因子，使得预估概率更接近真实概率。
←贝叶斯推断（Bayesian inference ）是一种统计学方法用来估计统计量的某种性质它是贝叶斯定理的应法，用来估计统计量的某种性质。
它是贝叶斯定理的应用。
三贝叶斯推断的含义三、贝叶斯推断的含义所以条件概率可以理解成下面的式子←所以，条件概率可以理解成下面的式子：←后验概率＝先验概率ｘ调整因子这就叶斯推断的含义我们估个验←这就是贝叶斯推断的含义。
我们先预估一个"先验概率"，然后加入实验结果，看这个实验到底是增强还是削弱了先验概率，由此得到更接近事实的""由此得到更接近事实的"后验概率"。
在这里如果“”P(B|A)/P(B)>1意←在这里，如果可能性函数P(B|A)/P(B)>1，意味着“先验概率”被增强，事件A的发生的可能性变大；如果可能性函数1，意味着B事件无助“”=1于判断事件A的可能性；如果“可能性函数”<1，意味着“先验概率”被削弱，事件A的可能性变小。
例2：水果糖问题两个一模一样的碗，一号碗有30颗水果糖和10颗巧克力糖，碗，碗颗水颗力，二号碗有水果糖和巧克力糖各20颗。
现在随机选择一个碗，从中摸出一颗糖，发现是水果糖。
请问这颗水果糖来自一号碗的概率有多大？我们假定表示号碗表示二号碗←我们假定，H1表示一号碗，H2表示二号碗。
由于这两个碗是一样的，所以P(H1)P(H2)也就是说在取出水果糖P(H1)=P(H2)，也就是说，在取出水果糖之前，这两个碗被选中的概率相同。
因此，P(H1)05我们把这个概率就叫做P(H1)=0.5，我们把这个概率就叫做"先验概率"，即没有做实验之前，来自一号碗的概率是0.5。
←E 再假定，表示水果糖，所以问题就变成了在已知E 的情况下，来自一号碗的概率有多"大，即求P(H1|E)。
我们把这个概率叫做后验概率"，即在E 事件发生之后，对P(H1)的修正。
根据条件概率公式得到根据条件概率公式，得到已知，P(H1)等于0.5，P(E|H1)为一号碗中取出水果糖的概率，等于0.75，那么求出P(E)就可以得到答案。
根据全概率公式，所以，将数字代入原方程，得到将数字代入原方程得到这表明，来自一号碗的概率是0.6。
也就是说，取出水果糖之后，H1事件的可能性得到了增强。
例3：别墅问题例如座在去的年生 例如：一座别墅在过去的20 年里一共发生，别，过2 次被盗，别墅的主人有一条狗，狗平均每周晚上叫3 次，在盗贼入侵时狗叫的概率被估计为0.9，问题是：在狗叫的时候09问题是：在狗叫的时候发生入侵的概率是多少？例4：假阳性问题已知某种疾病的发病率是0001即0.001，即1000人中会有1个人得病。
现有一种试剂可以检验患者是否得病，它的准确率是0.99，即在患者确实得病的情况下，它有99%的可能呈现阳性。
它的误报率是5%，即在患者没有得病的情况下，它有5%的可能呈现阳性。
现有一个病人的检验结果为阳性，请问他确实得病的可能性有多大？为性请问他确实得病的能性有多大定事件表得病假定A事件表示得病，那么P(A)为0.001。
就验概，试验，这就是"先验概率"，即没有做试验之前，我们预计的发病率。
再假定B事件表示阳性，那么要计算的就是P(A|B)。
这就是后验概"率"，即做了试验以后，对发病率的估计。
根据条件概率公式，用全概率公式改写分母，将数字代入，我们得到了个惊人的结果，P(A|B)约等于0.019。
也就我们得到了一个惊人的结果0019是说，即使检验呈现阳性，病人得病的概率，也只是从0.1%增加到了2%左右。
这就是所谓的"假阳性"，即阳性结果完全不足以说明病人得病。
←为什么会这样？为什么这种检验的准确率，可度到高达99%，但是可信度却不到2%？答案是与它的误报率太高有关。
请问病人得病←如果误报率从5%降为1%，请问病人得病的概率会变成多少？四过滤垃圾邮件四、过滤垃圾邮件正确识别垃圾邮件的技术难度非常大传←正确识别垃圾邮件的技术难度非常大。
传统的垃圾邮件过滤方法，主要有：过滤依据是特定的词语←关键词法：过滤依据是特定的词语。
←：根据邮件的某些特征，如邮件特征过滤根据邮件的某些特征，如使用的语言、附件的文件格式、邮件的大小等判断邮件是否是垃圾邮件。
←校验码法：计算邮件文本的校验码，再与已知的垃圾邮件进行对比已知的垃圾邮件进行对比。