大数定律与中心极限定理
背景:概率论中用来阐明大量随机现象平均结果的稳定性的一系列定理,称为大数定律。
1、定义:设X 1,X 2……X k 是随机变量序列,E(X k )存在,一、大数定律
1
1n
i i X X n ==∑,
0,ε>若对于任意的有lim (X E(X ))=0
n n P ε→∞
-
≥lim (X E(X ))=1n n P ε→∞
-<则称随机变量{X k }服从大数定律。
设随机变量X 具有有限数学期望EX 和方差DX ,则对于任意正数
,如下不等式成立。
{}2
DX
P X EX εε
-≥≤
——切比雪夫不等式
2、切比雪夫(Chebyshev)不等式
ε3、Chebyshev 大数定理(样本平均数稳定性)
定理:设随机变量X 1,X 2,…,X n ,…相互独立,且服从同一分布,并具有数学期望及方差,则对于任意正数,恒有
εμ
2σ
1
1n
i i x x n μ
==≈∑注:观测量X 在相同的条件下重复观测n 次,当n 充分大时,“观测值的算术平均值接近于期望”
是一大概率事件。
11lim 1n i n i P X n με→∞
=⎧⎫
-<=⎨⎬⎩⎭
∑11lim
0n i n i P X n με→∞
=⎧⎫-≥=⎨⎬⎩⎭
∑定理:设是n 次独立试验中事件A 发生的次数,p 是事件A 在每次试验中发生的概率,则对于任意正数恒有
lim 0n n P p n με→∞
⎧⎫-≥=⎨⎬⎩⎭
注:此定理说明可通过多次重复一个试验,确定事件A 在每次试验中出现的概率
()n
p P A n
μ≈=4、伯努利大数定理(频率的稳定性)
εn μ
定理:设随机变量X 1,X 2,…,X n 相互独立,服从同一分布,且有有限的数学期望和方差,
5、辛钦大数定理
定理:设X 1,X 2……X k 是随机变量序列,且服从相同的分布,相同的数学期望,E(X k )=μ则对于任意正数有:
εlim (X )=1n n P με→∞
-<lim (X )=0
n n P με→∞
-≥二、中心极限定理
背景:客观实际中,许多随机变量是由大量相互独立的偶然因素的综合影响所形成,每
一个微小因素,在总的影响中所起的作用是很小的,但总起来,却对总和有显著影响,这种随机变量往往近似地服从正态分布。
定义:概率论中有关论证独立随机变量的和的极限分布是正态分布的一系列定理称为
中心极限定理。
μ2σ1、独立同分布的中心极限定理
则随机变量()n F x 满足如下极限式:
即分布函数2121lim ()lim 2n t i x i n n n X n F x P x e dt
n μσπ-=-∞→∞→∞⎧⎫
-⎪⎪⎪⎪
=<=⎨⎬⎪⎪
⎪⎪⎩⎭
∑⎰近似服从正态分布
2
(,)N n n μσ2、棣莫弗—拉普拉斯中心极限定理
定理:设随机变量服从二项分布,则对于任意区间,恒有
n η(,)B n p [,]a b 2
2
1lim (1)2t b n a n np P a b e dt
np p ηπ-→∞⎧⎫-⎪⎪
≤<=⎨⎬-⎪⎪⎩⎭
⎰注:二项分布的极限分布是正态分布,即如果~(,)X B n p ,则
∑==n
i i
X 1
Y
2
2
1()()
(1)2t b n a
np P a b e dt b a np p ηπ-⎧⎫-⎪⎪≤<≈=Φ-Φ⎨⎬-⎪⎪⎩⎭
⎰()()
(1)(1)
b np a np np p np p --≈Φ-Φ--{}
(1)(1)(1)P a X b a np X np b np P np p np p np p ≤<⎧⎫---⎪⎪=≤<⎨⎬
---⎪⎪⎩⎭
注:近似计算3、李雅普诺夫大数定理(省略)
三、习题
5.假设一条生产线生产的产品合格率是0.8.要使一批产品的合格率达到在76%与84%之间的概率不小于90%,问这批产品至少要生产多少件?1、设随机变量X 1X 2……X n……相互独立,且其均值一致有界,即是存在常数AB 使,E(X k )<A,D(X k )<B,(k=1,2……),试证X 1X 2……X n……服从大数定律。
2.设X 1X 2……X n……相互独立的随机变量序列,
).3,2(n 2
1)0X (P n 1)n P(X n n Λ=-===±=n ,试证X 1X 2……X n……服从大数定律。
6. 一加法器同时收到20个噪声电压V k (k =1,2,…,20),设它们是相互独立的随机变
量,且都在区间(0,10)上服从均匀分布.记,求P {V >105}的近似值.
∑=20
1
=V k k V 3. 设随机变量X 和Y 的数学期望都是2,方差分别为1和4,而相关系数为0.5试根据契比
雪夫不等式给出P {|X -Y |≥6}的估计. 4. 设男孩出生率为0.515,求在10000个新生婴儿中女孩不少于男孩的概率?
注:本章习题安排如下:(1,2,3)考察大数定律,其他均是考察中心极限定律的在近似
估计中的应用。
7. 在一定保险公司里有10000人参加保险,每人每年付12元保险费,在一年内一个人
死亡的概率为0.006,死亡者其家属可向保险公司领得1000元赔偿费.求:
(1)保险公司没有利润的概率为多大;
(2)保险公司一年的利润不少于60000元的概率为多大?
8. 设有30个电子器件.它们的使用寿命T1,…,T30服从参数λ=0.1[单位:(小时)的指
数分布,其使用情况是第一个损坏第二个立即使用,以此类推.令T为30个器件使用的总计时间,求T超过350小时的概率.
参考解答:
1.证:由题设X k ,D k ,可知∑==n
k k X n 1
1X 的数学期望与方差分别满足以下不等式:
A
A E n X E n X n E n
k n k k n k k ≤≤==∑∑∑===)(1
)(1)1()X (E 1
11n B
B D n X D n X n D n
k n k k n k k ≤
≤==∑∑∑===)(1)(1)1()X (D 1
2121利用车比雪夫不等式可得
{}
0)
X ()X (X P 22
+∞→≤≤
≥-n n
B
D E εε
ε由大数定律定义可知,X 1X 2……X n……服从大数定律。
2.由题设知X n (n=2,3……)的概率分布为
X n
0P(X n =X k )
1/n
1-2/n
1/n
n
n
-故X n 的数学期望与方差分别为:
1
)21(01)X (E =⨯+-⨯+⨯-=n
n n n n 2
1)()21(01)()X ()X (D 2
22
2
n
n =⨯+-⨯+⨯-==n
n n n n E 故N N X D N X N
D D X
E N X N E E N
N
n N
n N n N n 2
21
)(1)1
(
)X (0)(1)1()X (1
n 21
n 21
n 1
n 1n =======∑∑∑∑∑=====利用车比雪夫不等式得
{}
0N
2
)
X ()X (X P 22
+∞→≤≤
≥-N D E εεε所以,X 1,X 2……X n……服从大数定律。
3.
4. 5.
6.
7. 8.。