第2章主观贝叶斯方法/~wjluo/aai/中国科大计算机学院内容•规则的不确定性•证据的不确定性•推理计算主观贝叶斯方法•R. O. Duda等人于1976年提出的一种不确定性推理模型。
–在这个模型中,他们称推理方法为主观Bayes方法。
–成功地应用于地矿勘探系统PROSPECTOR中。
•在这种方法中,引入了两个数值(LS,LN)。
•IF A THEN (LS, LN) B–LS体现规则成立的充分性,–LN体现规则成立的必要性。
–这种表示既考虑了事件A的出现对其结果B的支持,又考虑了A的不出现对B的影响。
内容•规则的不确定性•证据的不确定性•推理计算几率函数•几率函数O(X):)(1)()(X P X P X O −=•O(X)表示证据X 的出现概率和不出现的概率之比。
•显然O(X)是P(X)的增函数。
∞====)(,1)(1500)(0)(X O X P , O(X)=.P(X)=X O X P ,•几率函数实际上表示了证据X 的不确定性。
规则的不确定性•对规则A →B 的不确定性度量f(B, A)以因子(LS ,LN )来描述。
•充分性因子LS :表示A 真时对B 的影响,即规则成立的充分性。
•必要性因子LN :表示A 假时对B 的影响,即规则成立的必要性。
•实际应用中,概率值不可能求出,所以采用的都是专家给定的LS, LN 值,而不是依LS ,LN 的定义来计算的。
)|~()|(B A P B A P LS =)|~(~)|(~B A P B A P LN =•因此,LS 表征的是A 的发生对B 发生的影响程度。
•若LS 为无穷大,则P(~B|A)=0,即P(B|A)=1,说明证据A 对于得出B 为真的逻辑是充分的。
•LS 也称为充分似然性因子。
得由)(~)()|(~)|~(,)()()|()|(B P A P A B P B A P B P A P A B P B A P ==)()|()(~)()|(~)|()|~()|(B O A B O B P B P A B P A B P B A P B A P LS ===•因此,LN 表征的是A 不发生对B 发生的影响程度。
•若LN 为0,则P(B|~A)=0,说明证据A 不存在时,B 必为假,即A 对B 是必然的。
得由)(~)(~)|~(~)|~(~,)()(~)|~()|(~B P A P A B P B A P B P A P A B P B A P ==)()|~()(~)()|~(~)|~()|~(~)|(~B O A B O B P B P A B P A B P B A P B A P LN ===⎪⎩⎪⎨⎧<<>>==B A )()|(1 B A )()|(1B A )()|(1不支持支持没影响对B O A B O B O A B O B O A B O LS ⎪⎩⎪⎨⎧<<>>== B A )()|(1 B A )()|(1B A )()|(1不支持~~支持~~没影响对~~B O A B O B O A B O B O A B O LN )()|()()|(B O LS A B O B O A B O LS ⋅=⇒=)()|~()()|~(B O LN A B O B O A B O LN ⋅=⇒=•注意:–LS 、LN ≥0,且LS 、LN 是不独立的。
–LS, LN 可以同时=1。
–LS, LN 不能同时>1或<1。
•如果LS>1,则P(A|B)>P(A|~B),两边同时减1,可得1-P(A|B) < 1-P(A|~B)由于P(~A|B)=1-P(A|B),且P(~A|~B)=1-P(A|~B),所以1)|~(1)|(1)|~(~)|(~LN <−−==B A P B A P B A P B A P几率函数与LS, LN的关系•理论上,LS、LN的取值可以是如下几个范围:①LS>1,且LN<1②LS<1,且LN>1③LS=LN=1LS 、LN 与证据的关系A 为假时(观察不到A 时),对B 是逻辑充分的∞A 为假时,对B 是有利的1<<LNA 为假时,对B 是无影响1A 为假时,对B 是不利的0<LN<<1A 为假时,B 为假,或者说A 对B 是必然的0LN A 为真时,对B 的逻辑是充分的,或者说A 为真时(观察到A 时),必有B 为真∞A 为真时,对B 是有利的1<<LSA 为真时,对B 是无影响1A 为真时,对B 是不利的0<LS<<1A 为真时,B 为假,或者说~A 对B 是必然的0LS 影响取值例题•例1、PROSPECTOR专家系统中的一条规则:如果有石英硫矿带,那么,必有钾矿。
对于这条规则来说,有LS=300,LN =0.2。
•相关解释:–LS=300>>1,观察到石英硫矿带非常有用,而若不能观察到石英硫矿带则没有什么意义。
–LN<<1,那么,缺乏硫矿带将强烈表明假设是错误的。
•例2、如果有玻璃褐铁矿,那么有最佳的矿产结构。
–其中LS=1000000,LN=0.01内容•规则的不确定性•证据的不确定性•推理计算•证据的不确定性度量用几率函数来描述:•虽然几率函数与概率函数有着不同的形式,但是变化趋势是相同的。
9当A 为真的程度越大(P(A)越大)时,几率函数的值也越大。
⎪⎩⎪⎨⎧∞∞=−=一般情况真当假当),0(A A 0)(1)()(A P A P A O•几率函数是用概率函数定义的。
•在推理过程中,经常需要通过几率函数值计算概率函数值时。
)(1)()(A O A O A P +=)(1)()(A P A P A O −=内容•规则的不确定性•证据的不确定性•推理计算推理计算•主观贝叶斯方法的不精确推理过程就是根据前提A 的概率P(A),利用规则的LS和LN,把结论B的先验概率P(B)更新为后验概率P(B|A)的过程。
•由于是不确定性推理,所以必须讨论证据发生的各种可能性。
①A必出现②A不确定③证据的合成④证据组合A必出现•A必出现时,即P(A)=1,此时可以直接使用如下公式计算:O(B|A) = LS·O(B)O(B|~A) = LN·O(B)从而求得使用规则AÆB后,O(B)的更新值O(B|A)和O(B|~A)。
•如果需要概率表示,可再由公式P(A)=O(A)/(1+O(A))计算出P(B|A)和P(B|~A)。
A不确定•A不确定,即P(A)≠1时,设A'代表与A有关的所有证据(A'是系统中所有对A能够产生影响的观察)。
•对于规则AÆB,杜达(Duda)给出了公式(1976年) P(B|A') = P(B|A)P(A| A')+P(B|~A)P(~A| A')•三种特殊情况:①当P(A| A') = 1时,证据A必然出现②当P(A| A') = 0时,证据A必然不出现③当P(A| A') = P(A)时,观察A'对A没有影响①当P(A| A') = 1时,证据A 必然出现,此时有1)()1()()|()'|(+×−×==B P LS B P LS A B P A B P 1)(1)|~()|()()|~()|(1)()1()(+⎟⎟⎠⎞⎜⎜⎝⎛−=+×−×B P B A P B A P B P B A P B A P B P LS B P LS 说明:)|~()()|~()()(B A P B P B A P AB P AB P +−=)()|(~)()|()()|()~()()(A P A B P A P A B P A P A B P B A P AB P AB P +=+=)|()|(~)|()|(A B P A B P A B P A B P =+=②当P(A| A') = 0时,证据A 必然不出现,此时有1)()1()()|~()'|(+×−×==B P LN B P LN A B P A B P ③当P(A| A ') = P(A)时,观察A '对A 没有影响,对B 也没有影响,则)()'|(B P A B P =P(B|A') = P(B|A)P(A| A')+P(B|~A)P(~A| A')= P(B|A)P(A)+P(B|~A)P(~A)= P(A|B)P(B)+P(~A|B)P(B)= P(B)说明:•由此,可以得到以上3种特殊情况时,A'对B 的不同影响,即可以根据A 与A'的关系计算P(B|A')值。
⎪⎪⎪⎪⎩⎪⎪⎪⎪⎨⎧==+×−×=+×−×=)()'|()(0)'|(1)()1()(1)'|(1)()1()()'|(A P A A P B P A A P B P LN B P LN A A P B P LS B P LS A B P•这样可得P(A|A')为0,P(A),1时相应的P(B|A')的值,根据这三点可以得到线性插值图。
•对于P(A| A')的其它取值,P(B|A')可根据此图通过线性插值法得到。
•线性插值公式⎪⎪⎪⎪⎩⎪⎪⎪⎪⎨⎧≤−×−−+<≤×−+=)'|()()]()'|([)(1)()|()()()'|(0)'|()()|~()()|~()'|(A A P A P A P A A P A P B P A B P B P A P A A P A A P A P A B P B P A B P A B P•当证据不确定时,证据理论推理的基本原理是:①从该证据A往前看,即寻找A的出处。
②如果A是由A'导出的,即A' →A →B, 则当A不清楚的时候,采用A'的相关信息进行计算。
③如果还不行,就再往前推。
④是一个递归推导的过程。
•A'是指从A向前看的各个相关证据,所以有时可能存在多个相关证据。
证据的合成•当出现两个证据,即在证据A ′之下,有证据A 1和A 2存在时,设证据A 1和A 2单独受影响的概率分别为P(A 1|A ′)和P(A 2|A ′),那么)}'|(),'|(max{)'|()}'|(),'|(min{)'|(21212121A A P A A P A A A P A A P A A P A A A P =∨=∧)}'|(,),'|(),'|(max{)'|()}'|(,),'|(),'|(min{)'|(21212121A A P A A P A A P A A A A P A A P A A P A A P A A A A P n n n n L L L L =∨∨=∧∧•当有2个以上的证据存在时,有•简单情况:一个原因,一个结果。