第四章贝叶斯分析
Bayesean Analysis
§4.0引言
一、决策问题的表格表示——损失矩阵
对无观看(No-data)问题 a=δ
可用表格(损失矩阵)替代决策树来描述决策问题的后果(损失):
或
损失矩阵直观、运算方便
二、决策原则
通常，要依照某种原则来选择决策规则δ，使结果最优(或中意)，这种原则就叫决策原则，贝叶斯分析的决策原则是使期望效用极大。

本章在介绍贝叶斯分析往常先介绍芙他决策原则。

三、决策问题的分类：
1.不确定型(非确定型)
自然状态不确定,且各种状态的概率无法可能.
2.风险型
自然状态不确定,但各种状态的概率能够可能.
四、按状态优于：
l ij ≤l
ik
I, 且至少对某个i严格不等式成立, 则称行动a
j
按状
态优于a
k
§4.1 不确定型决策问题
一、微小化极大(wald)原则(法则、准则) a
1a
2
a
4
min
j max
i
l (
i
, a
j
) 或max
j
min
i
u
ij
例:
各行动最大损失: 13 16 12 14
其中损失最小的损失对应于行动a
3
.
采纳该原则者极端保守, 是悲观主义者, 认为老天总跟自己作对.
二、微小化微小
min
j min
i
l (θ
i
, a
j
) 或max
j
max
i
u
ij
例:
各行动最小损失: 4 1 7 2
其中损失最小的是行动a
2
.
采纳该原则者极端冒险，是乐观主义者，认为总能撞大运。

三、Hurwitz准则
3 / 24
上两法的折衷，取乐观系数入
min
j ［λmin
i
l (θ
i
, a
j
)＋（1－λ〕max
i
l (θ
i
, a
j
)］
例如λ=0.5时
λmin
i l
ij
: 2 0.5 3.5 1
（1－λ〕max
i l
ij
: 6.5 8 6 7
两者之和： 8.5 8.5 9.5 8
其中损失最小的是：行动a
4
四、等概率准则(Laplace)
用
i
∑l ij来评价行动a j的优劣
选min
j
i
∑l ij
上例：
i
∑l ij : 33 34 36 35 其中行动a1的损失最小
五、后梅值微小化极大准则(svage-Niehans)
定义后梅值s
ij =l
ij
-min
k
l
ik
其中min
k l
ik
为自然状态为θ
i
时采取不同行动时的最小损失.
构成后梅值(机会成本)矩阵 S={s
ij }
m n
⨯
,使后梅值微小化极大,
即:
min max j i s ij
例:损失矩阵同上, 后梅值矩阵为:
3 1 0 2
3 0 8 1
1 4 0 2
0 3 2 4
各种行动的最大后梅值为: 3 4 8 4
其中行动a1 的最大后梅值最小,因此按后梅值微小化极大准则应采取行动1.
六、Krelle准则：
使损失是效用的负数(后果的效用化),再用等概率(Laplace)准则.
七、莫尔诺(Molnor)对理想决策准则的要求(1954)
1.能把方案或行动排居完全序；
2.优劣次序与行动及状态的编号无关；
3.若行动a
k 按状态优于a
j
，则应有a
k
优于a
j
；
4.无关方案独立性：差不多考虑过的若干行动的优劣不因增加新的行动而改变；
5 / 24
5.在损失矩阵的任一行中各元素加同一常数时，各行动间的优劣次序不变；
6.在损失矩阵中添加一行，这一行与原矩阵中的某行相同，则各行动的优劣次序不变。

§4.2 风险型决策问题的决策原则
一、最大可能值准则
令π(θ
k )=maxπ(θ
i
)
选a
r 使 l(θ
k
,a
r
)=min
j
l(θ
k
,a
j
)
例：
π(θ
i
) a1a2a3
θ
10.2 7 6.5 6
θ
20.5 3 4 5
θ
30.3 4 1 0
π(θ
2
) 概率最大, 各行动损失为 3 4 5
∴应选行动a
1
二、贝叶斯原则
使期望损失微小：
min
j {
i
∑l(θi , a j) π(θi) }
上例中,各行动的期望损失分不为 4.1 3.6 3.7, 对应于a
2
的期望损失3.6最小
∴应选a
2
.
三、贝努利原则
损失函数取后果效用的负值,再用Bayes原则求最优行动.
四、E—V(均值—方差)准则
若Eπl
ij ≤Eπl
ik
且σσ
j k
≤则a j优于a k
通常不存在如此的a
j
上例中:
a 1a
2
a
3
E 4.1 3.6 3.7
V(σ2) 2.29 3.79 5.967
不存在符合E—V准则的行动, 这时可采纳f(μ,σ)的值来推断(μ为效益型后果的期望)
μ-ασ
f( μ，σ)=μ-ασ2
μ-α(μ2+σ2)
f越大越优.
五、不完全信息情况下的决策原则(Hodges-Lehmann原则)
状态概率分布不可靠时, 可采纳:
7 / 24
φ(a
j )=λu
ij
i
i
∑⋅π + min
i
u
ij
i=1,2,…,m
j=1,2,…,n
φ越大越优.
§4.3贝叶斯定理
一、条件概率
1.A、B为随机试验E中的两个事件
P(A｜B)=P(AB)/P(B)
由全概率公式: A
j
j=1,2,…,n 是样本空间的一个划分, P(B)=
j
∑P(B|A j)P(A j)
得Bayes公式
P(A
i |B)=P(B|A
i
)·P(A
i
)/P(B)
= P(B|A
i )·P(A
i
)/
j
∑P(B|A j)P(A j)
2. 对Θ,Χ两个随机变量
·条件概率密度
f(θ| x)=f(x |θ)f(θ)/f(x) ·在主观概率论中
π(θ| x)=f(x |θ)π(θ)/m(x)
其中：π(θ)是θ的先验概率密度函数。