当前位置:文档之家› 贝叶斯公式的发展与应用

贝叶斯公式的发展与应用


二.正文: 1. 引言
贝叶斯公式是概率论中重要的公式, 主要用于计算比较复杂事件的概率,它实质上是加法公式和乘法公 式的综合运用,它从数量上划分了事物的先验概率和后验概率,可以在不完全信息下,对部分位置的状态 用主观概率估计或统计得来的先验概率,然后用贝叶斯公式对诱发某结果的最可能原因进行概率推理,即 所谓的“逆概问题”。 首先,我们引入三个问题: 1、一台正确率为 99%的机器,它的检测结果有多大可信度? 2、一位经验丰富的老警察,辨识小偷的正确率达到 99%,当他觉得一个人是小偷的时候,这人真是小 偷的概率是多少? 3、美国电影的“黑衣人”特工常年与外星人打交道,辨识外星人的正确率也是 99%,请问,当他说你 是外星人的时候,你真是外星人的概率是多少? 在学习概率论这门课之前,我们会觉得这三个问题的答案不相同,因为机器的正确率可信,小偷比较 常见,而外星人则过于离奇。这个直觉是对的—即使检验者同等精确,由于他们所验证的事情本身在先验 概率上的不同,导致其令人信服的程度也是不一样的。而经过了贝叶斯公式的学习,我们可以得出这种直 觉,完全可以通过计算来印证。
A1 {做火车来} A3 {坐汽车来} B {迟到} P ( A1 ) 0.3 P ( A3 ) 0.1
A2 {坐船来} A4 {坐飞机来}
P ( A2 ) 0.2 P ( A4 ) 0.4 P ( B / A2 ) 0.3 P ( B / A4 ) 0
P ( B / A1 ) 0.25 P ( B / A3 ) 0.1
P ( A3 ) P ( B / A3 )
P( A ) P( B / A )
i 1 i i
4
0
比较以上四个概率值,可见他坐火车和坐船的概率大,坐汽车的可能性很小,且不可能是坐飞机过来 的。此例子运用了四次贝叶斯公式,用所求出的概率判断某人迟到了,选择了何种交通工具的可能行最大。 由果索因,果是某人迟到了,因是某人选择了那种交通工具. 随着社会的飞速发展,市场竞争日趋激烈,决策者必须综合考察已往的信息及现状从而作出综合判断, 利用概率来决策越来越显得重要。
3.2 贝叶斯公式的证明
设 H 是假设, X 是一个数据元组, 也可以看作是一个证据 P(H)是先验概率( prior probability) ,P(H|X) 是后验概率,即在 X 条件下 H 发生的概率。由贝叶斯定理,可以根据 P(X),p(H)和 p(X|H)来计算 P(H|X), 具体是:
P( H | X )
i 1( B)
0 ,有 P( Ai ) P( B | Ak )
P( Ai | B)
P( A ) P( B | A )
i 1 i i
n
事件 A1 , A 2 , A 3 , , A n , 可以看作是导致事件 B 发生的各种“原因”,先验概率 P( Ak ) 是在事件 B 出现这一信息得知前 A k 的概率, 后验概率是在经过试验获知事件 B 已经发生这个信息之后事件发生的条 件概率,后验概率依赖于试验中得到的新信 息的具体情况(比如事件 B 发生还是事件 B 的对立事件发生)。 名词解释: 1)后验概率:后验概率 P(ωj|x),即假设特征值 x 已知的条件下类别属于ωj 的概率。 2)似然函数:p(x|ωj)为ωj 关于 x 的似然函数,也成为类条件概率密度函数,表明类别状态为ω时的 x 的概率密度函数。 3)先验概率:先验概率 P(ωj)是由先验知识而获得的。 4)证据因子:证据因子的存在知识为了保证各类别的后验概率的总和为 1。
由贝叶斯公式分别可以算得
P ( A1 / B )
P ( A1 ) P ( B / A1 )
P( A ) P( B / A )
i 1 i i
4
0.3 0.25 0.3 0.25 0.2 0.3 0.1 0.1 0.4 0 0.3 0.25 0.5172 0.145 P ( A2 / B ) P ( A2 ) P ( B / A2 )
公式推导:
P( X | H ) * P( H ) P( X )
(*)
P( H | X )
P( HX ) P( X ) P( XH ) P( H )
(1)
P( X | H )
由上(1)(2)式,即得(*)式
(2)
3.3 贝叶斯公式的地位和应用
贝叶斯公式是概率论中较为重要的公式,是一种建立在概率和统计理论基础上的数据分析和辅助决策 工具,以其坚实的理论基础、自然的表示方式、灵活的推理能力和方便的决策机制受到越来越多研究学者 的重视。目前,贝叶斯网络已经广泛应用在医学、信息传递、生产、侦破案件几个方面。 我们通常的计算思维是——“假设袋子里面有 M 个黑球、N 个白球,从中摸出一个,摸出黑球的概率 是多大?”——这是“正向概率”。然而,现实世界本身就是不确定的,人类的观察能力是有局限性的, 我们日常所观察到的只是事物表面上的结果, 就好像上面我们往往只能知道从里面取出来的球是什么颜色,
四.结论
通过本次研究,我们复习了贝叶斯公式的由来,定义和证明,知道了贝叶斯公式在日常生活中的许多 应用,很多时候我们可以利用贝叶斯公式来进行决策、推理判断等。可以看出,贝叶斯公式在概率论中占 据着非常重要公式及其在概率推理中的应用》 西安邮电大学理学院 王丽 3.《浅谈贝叶斯公式及其应用》
P( A ) P( B / A )
i 1 i i
4
P ( A3 / B )
0.2 0.3 0.4184 0.145 P ( A3 ) P ( B / A3 )
P( A ) P( B / A )
i 1 1 i
4

0.1 0.1 0.0690 0.145
P ( A4 / B )
而并不能直接看到袋子里面实际的情况。这个时候,我们就需要提供一个猜测,而这个猜测就是“贝叶斯 公式”。下面我们通过一个例子来看看贝叶斯公式在概率推理中的应用: 例:有朋自远方来,他坐火车、坐船、坐汽车、坐飞机的概率分别是 0.3,0.2,0.1,0.4,而他坐火 车、坐船、坐汽车、坐飞机迟到的概率分别是 0.25,0.3,0.1,0,实际上他是迟到了,推测他坐那种交 通工具来的可能性大。 解:设
2. 贝叶斯公式的发现
贝叶斯 Thomas Bayes, 英国数学家.1702 年出生于伦敦, 做过神甫。 1742 年成为英国皇家学会会员。 1763 年 4 月 7 日逝世。贝叶斯在数学方面主要研究概率论。为了证明上帝的存在,他发明了概率统计学原 理,遗憾的是,他的这一美好愿望至死也未能实现。贝叶斯在数学方面主要研究概率论。他首先将归纳推 理法用于概率论基础理论,并创立了贝叶斯统计理论,对于统计决策函数、统计推断、统计的估算等做出 了贡献。1763 年发表了这方面的论著,对于现代概率论和数理统计都有很重要的作用。贝叶斯的另一著作 《机会的学说概论》发表于 1758 年。 经过多年的发展与完善,贝叶斯公式以及由此发展起来的一整套理论与方法,已经成为概率统计中的 一个冠以“贝叶斯”名字的学派,在自然科学及国民经济的许多领域中有着广泛应用。
3. 贝叶斯公式在概率推理中的应用 3.1 全概率公式和贝叶斯公式
全概率公式:设试验 E 的样本空间 S,事件 A1 , A 2 , A 3 , , A n , 构成样本空间 S 的一个完备事件组, 而且
P( Ai ) 0, i 1,2,3, , n
则对于任何一件事件 B,有
P( B) P( Ai ) P( B | Ai )
贝叶斯公式的发展与应用
一.内容摘要:
贝叶斯公式可以在不完全信息下,对部分位置的状态用主观概率估计或统计得来的先验概率,然后用 贝叶斯公式对诱发某结果的最可能原因进行概率推理,即所谓的“逆概问题”。贝叶斯统计理论有英国数 学家贝叶斯提出,对现代概率论和梳理统计有着重要作用。目前,贝叶斯网络已经广泛应用在医学、信息 传递、生产、侦破案件几个方面。 关键字:贝叶斯公式 概率 推理
相关主题