vn n
np 1
n2
p
p 1
n
p
由切比雪夫不等式，对任意正数ε，有
0
P
vn n
p
p 1 p
n 2
n 0
lim
P
n
vn n
p
0
历史上，伯努利是第一个研究弱大数定理的， 他在1713年发表的论文中，提出了上述定理， 那是概率论的第一篇论文。
依概率收敛
设有随机变量序列X1, X2,…, Xn和随机变量
可以证明，若 Xn a.s Y 则 Xn P Y
强大数定律讨论的就是以概率1收敛.
二、强大数定律 定义
设有独立随机变量序列X1, X2,…, Xn，如
n
Xi EXi
P lim i=1
=0 1
n
n
则称{Xn}满足强大数定律。
柯尔莫哥洛夫不等式 （引理5.1.2）
设X1, X2,…, Xn为独立随机变量序列，具有 有限的数学期望和方差，则对任意 >0 ，有
n i 1
X
i
1 n2
n
Var Xi
i 1
2 n
P{Yn
EYn
}
Var Yn
2
2
n 2
0
(n )
得证。
辛钦大数定律 设X1，X2，…，Xn，…是独
立同分布的随机变量序列，且有有限的期望μ， 则对任意ε>0，有
lim
n
P
X1
X2 n
Xn
0
显然
E
X1
X2
n
Xn
n
证
令Var Xi 2,
n i 1
EX i
例
设X
1，X
，
2
，X
，
n
是相互独立的随机变量序列，
P
Xn
n
1 n
PXn
0
1
2 n
n 2,3,
证明{X n}服从大数定律。
证明、
EXi 0
E X2 2 i
Var Xi 2
EYn
E
1 n
n i 1
X
i
1 n
n i 1
EX i
0
Var
Yn
Var
1 n
nkBiblioteka P sup Xi EXi1kn i1
Var
k 1
2
Xk
如n=1，就是切比雪夫不等式。
柯尔莫哥洛夫强大数定理 （定理5.1.3）
设X1, X2,…, Xn为独立随机变量序列，具有
有限的数学期望，且
Var X n
n1
n2
<+
则
n
X k EX k
P lim k1
第5章 大数定律和中心极限定理
▪大数定律 ▪中心极限定理
§5.1 大数定律
（弱）大数定律：
切比雪夫大数定律、辛钦大数定律、伯努利大 数定律
强大数定律：
柯尔莫哥洛夫强大数定律、博雷尔强大数定律
一、大数定律
马尔科夫不等式
若η为只取非负值的随机变量，则对任意常
数ε>0，有 P( ) E
证明 我们只证明η为连续型随机变量的情形。
设X1, X 2, ,为独立随机变量，Var[ Xi ] C,i 1, 2, ,
则对任意 0有
lim
n
P
X1
X2 n
Xn
0.
这里 证明用到切比雪夫不等式.
E
X1
X
2
n
X
n
证明
由X1, X 2, ，的独立性有
Var
X1
X
2
n
n
X
n
i1 Var[ X i ] C
n2
n
所以，由切比雪夫不等式有
P
X1
X2 n
证毕.
Xn
C
n 2
0
n .
伯努利大数定律
定理 设vn~B(n，p)，其中n=1,2, …，0<p<1 。
则对任意ε>0，有
lim P n
vn n
p
0
证 由vn服从二项分布B(n，p) 知
Evn＝np Var[vn]＝np(1－p)
故
E
vn n
np n
p
Var
Xi
Yn
i 1
n
EYn
E
n
X
i 1
n
i
n
EX i
i 1
n
Var Yn
D
n
X
i 1
n
i
n
DX i
i 1
n2
2
n
由切比雪夫不等式，对 0,有
P
Yn－EYn
Var Yn 2 0
2
n 2
(n )
即P
X1
X2 n
X n －
0
(n )
切比雪夫弱大数定律
Var X 3k2 (EX 3k2 )2 EX 3k1EX 3k
6 4 4 14
k 1, 2, , n
{Yn}满足辛钦大数定律条件，所以
n
Yk
k 1
X
2 1
X2X3
X
2 4
X5X6
n
n
X2 3n2
X 3n1X 3n
P14, n
a 14
5.11
假设某洗衣店为第i个顾客服务的时间X
Y，若对任意的 >0，有
nlim
P
X
n
Y
0
则称随机变量序列{Xn}依概率收敛于Y, 记为
Xn P Y
弱大数定律讨论的就是依概率收敛.
以概率1收敛
设有随机变量序列X1, X2,…, Xn和随机变量Y
如果
P(
:
lim
x
X
n
(
)
Y
(
))
1
则称随机变量序列{Xn}以概率1收敛于Y, 记为
Xn a.s Y
设η的密度函数为f（y）。
当y<0时，f（y）=0。
E 0 yf ( y)dy yf ( y)dy
yf ( y)dy
f ( y)dy P( )
P( ) E
切比雪夫不等式
引理5.1.1 设随机变量X有有限方差，对任意ε>0，
则
P X
EX
Var
2
X
证 由马尔科夫不等式，有
=0 =1
n
n
柯尔莫哥洛夫强大数定理 （定理5.1.4）
设X1, X2,…, Xn为独立同分布随机变量序列，
具有有限的数学期望μ，则
n
X k EX k
P lim k1
=0 =1
n
n
即
n
Xk
k1 a.s
n
博雷尔（Borel强大数定律）（推论5.1.2 ）
定理 设vn~B(n，p)，其中n=1,2, …，0<p<1 。
设Yk
=X
2 3k
2
X 3k1 X 3k ,
由于{X n}是独立同分布的随机变量序列
所以，{Yn}也是独立同分布的随机变量序列，
且
n
Yk
X
2 1
X2X3
X
2 4
X5X6
k 1
X2 3n2
X 3n1 X 3n
E[Yk ] E
X2 3k 2
X 3k 1 X 3k
E
X2 3k 2
E
X 3k 1 X 3k
则
P
lim
n
vn n
=p
1
即
n
vk
k1 a.s p
n
有关大数定律习题选讲
5.5 设{X n}是独立同分布的随机变量序列，
且假设E[ X n ] 2, Var[ X n ] 6, 证明：
X
2 1
X2X3
X
2 4
X5X6
n
X2 3n2
X 3n1 X 3n
P a,
n ,
并确定常数a之值.
解
P
X－EX 2 2
E（X－EX）2 Var X
2
2
即
P( X－EX
)
Var
2
X
定义
设X
1，X
，
2
，X
，
n
是随机变量序列，
令
Yn＝
X1
X
2
n
Xn
如存在一个常数序列{bn}，对 0，有
lim
n
P{Yn
bn
} 0，
则称序列{X n}服从大数定律。
bn常取为
bn
EYn
1 n