大数定律
试验中出现的概率等于 pk , 以 μn 记在前n次
试验中事件A出现的次数, 则对任意的 ε 0, 都有 μn 1 n lim P pk ε 0 n n n k 1 证 令
0, 第k次试验中 A不发生 k 1, 2,, n X k= 1, 第k次试验中 A发生
n
lim P{| Yn Y | } 1 lim P{| Yn Y | } 0
或
n
则称随机变量序列 {Yn } 依概率收敛与随机变量Y, 简记为
Yn Y
P
Y 依概率收敛表示: n 与 Y 的绝对误差小于任意小 的正数 的可能性(即概率)将随着n增大而愈来愈 大,直至趋于1. P C 定理4.1 设 {Yn } 为一随机变量序列, Yn 且 g() 在点C处连续,则有 (常数),又函数
第一节 大数定律
一、问题的提出 二、随机变量序列的收敛性
回
三、常用的四种大数定律
停 下
一、问题的提出
在第一章有关概率的统计定义中讲到, 随 机现象在大量重复试验中呈现明显的统计规律 性, 即事件发生的频率具有稳定性. 贝努里于1713年首先提出关于频率稳定性的 定理, 被称为贝努里大数定律.
大数定律的客观背景 在实践中, 人们认识到大量测量值的算术平 均值也具有稳定性. 大数定律就是用于研究大 量随机现象中平均结果的稳定性的理论.
可见, 每个随机变量的数学期望都存在.
因为
2 Xn
0 1 1 2 n
na 2
检验是否 有有限方 差
1 P n2 2 na 2 1 a 2 所以 E X n n2
2 D X n E X n E X n 2 a 2
因此, 随机变量 X n n 1, 2,有有限的方差, 且有 公共上界.
DYn
4
n 2 n 1
i 2 D X i 2
i 1
n
4σ 2
2
n n 1
i2 2
i 1
n
4nn 12n 1 σ 2
n 12 6n
2
22n 1 σ 2 3nn 1
从而对任意给定的 0, 由切比谢夫不等式得 DYn 0 P{| Yn μ | ε } ε2 22n 1 σ 2 0 n 2 3nn 1ε P 因此 Yn .
(2) 若 X n X ,则
。
a .e
P
r
Xn X ;
Xn X ; Xn X .
L P
P
(3) 若 X n X ,则
。
r
X ,则 (4) 若 X n
P
三、常用的四种大数定理
定义4.5 设X 1 , X 2 ,, X n , 是随机变量序列 ,
通俗地说, 在定理条件下, n 个随机变 量的算术平均值, 当 n无限增加时, 几乎变 成一个常数.
2
切比谢夫大数定理的另一种叙述
设X 1 , X 2 ,, X n ,是两两不相关的随机变量序列,
每一随机变量都有有限的方差, 并有公共的上界
D X 1 C , D X 2 C ,, D X n C ,
2 2 2 X1 , X 2 ,, X n ,也是相互独立的. 由 E X k 0,
得
2 E( X k )
D X k E X k 2 .
2
由辛钦大数定理知, 对于任意正数 , 有 1 n 2 2 lim P X k 1. n n k 1
n
或简记为
P{ lim Yn Y } 1
n
则称随机变量序列 {Yn }以概率1(或几乎处处) 以概率1(或几乎处处)收敛于随机变量 Y
。
简记为
Yn Y
a .e
下面定理揭示了四种收敛之间的关系。 定理 4.2 设随机变量序列 { X n } 和随机变量 X
X ; (1)若 X n X ,则 X n
b
y=f(x)
A 1 x
z: x (ba)za后, 可将 x 轴上的区间[a, b]变为 z
2 Yn iX i n n 1 i 1
依概率收敛到 .
n 2 因为 E Yn E iX i n n 1 i 1
n
解
n n 2 2 iE X i nn 1 i n n 1 i 1 i 1
则称随机变量序列 {Yn } 依分布收敛与随机变量Y, 简记为
Yn Y
L
依分布收敛表示:当n充分大时,Yn 的分布函数
Fn ( x ) 收敛于Y 的分布函数 F ( x ), 它是概率论中
较弱的一种收敛性. 定义4.2 设随机变量序列 {Yn } 和随机变量Y,若对 任意实数 0, 有
证毕.
μA 注1 贝努里大数定理表明事件发生的频率 n 依概率收敛于事件的概率p.
用严格的数学形式 表达频率的稳定性 ! 当 n 很大时, 事件发生的频率与概率 有较大偏差的可能性很小.在实际应用中, 当试验次数很大时, 便可以用事件发生的
频率来代替事件的概率.
定理4.6 泊松大数定理
如果在一个独立试验序列中, 事件A在第 k 次
1 n Yn X i n i 1
令
如果存在这样一个常数序列 a1 , a2 ,, an ,,
对任意的ε 0, 恒有
则称随机变量序列X n 服从大数定律.
n
lim P Yn an ε 0
定理4.3 切比谢夫大数定律
设X 1 , X 2 ,, X n ,是两两不相关的随机变量序列,
n lim P p 0 n n
证
引入随机变量
0, 在第k次试验中事件 A不发生 X k= 1, 在第k次试验中事件 A发生 k 1, 2,, n .
显然, 由于X 1 , X 2 ,, X n是相互独立的, 且同服从
B1, p 分布, 故有
n
Y
E | Yn |r (n 1,2) 时,有
lim E | Yn Y | 0
r
r 则称随机变量序列 {Yn } 阶收敛于随机变量Y
,简记为
Yn Y
r
特别的有
1-阶收敛又称为平均收敛, 2-阶收敛又称为均方收敛。 可以证明:均方收敛则平均收敛。
定义 4.4 设随机变量序列 {Yn ( )} 和随机变量 Y ( ) ,若 P{ : lim Yn ( ) Y ( )} 1
由定理4.3可得结论.
且具有数学期望 E X k 任意的 0, 都有
定理4.7 辛钦大数定理 设随机变量 X 1 , X 2 ,, X n相互独立, 服从同一分布,
k 1, 2,, n , 则对
1 n lim P X i 0 n n i 1
例2 设随机变量 X 1 , X 2 ,, X n , 相互独立,
具有如下分布律: X n na 0 1 1 P 1 2 2 2n n
na 1 2n 2 检验是否有 问是否满足切比谢夫大数定理? 数学期望 解 由题意可知独立性. 1 1 1 E ( X n ) na 2 0 1 2 na 2 0, 2n n 2n
注1 与切比谢夫大数定理相比, 不要求方差存在 且有界. 2 贝努里大数定理是辛钦大数定理的特例.
例3 设随机变量 X 1 , X 2 ,, X n , 独立同分布, 且E ( X k ) 0, D( X k ) σ 2 , k 1, 2, ,证明对任意 正数ε , 有 1 n 2 2 lim P X k σ ε 1 n n k 1 解 因为 X 1 , X 2 ,, X n ,是相互独立的 , 所以
g(Yn ) g(C ).
P
证 由 g() 在C处连续可知,对任意实数 0, 存在实数 0, 使当 | y C | 时,总有
| g( y ) g(C ) | , 从而
{| Yn C | } {| g(Yn ) g(C ) |},
大量抛掷硬币 正面出现频率
生产过程中的 字母使用频率 废品率
二、随机变量序列的收敛性
定义4.1 设随机变量 Yn ( n 1,2,) 和随机变量Y
的分布函数分别为Fn ( x )( n 1,2,)和F ( x ),若在
F ( x ) 的所有连续点 x 上都有
n
lim Fn ( x ) F ( x )
故满足切比谢夫大数定理的条件.
定理4.4
设Yn为一随机变量序列, 且Yn C 常数,
P
又函数g在点C处连续, 则 gYn gC .
P
定理4.5 贝努里大数定理
设 μn 是 n 次独立重复贝努里试验 中事件A 发生的次数, p是事件 A 在每次试验中发生的概率 , 则对任意的ε 0, 有
1 P{| g(Yn ) g(C ) | } P{| Yn C | }
1 P{| Yn C | } 1, n
这就表明:
g(Yn ) g(C )
P
定义 4.3 设随机变量序列 {Yn } 和随机变量 对 r0 r 和 E | Y | ,若
例4 设 f(x) (a x b) 是连续函数, 试用概率论
方法近似计算积分 f x dx . a y 1 解 设 |f(x)| 的一个上界 为M (M>0), f(x)的最小值
f x h 1, 为h, 则 0 O 2M 故不妨假定 0 f(x) 1, 引进新变量证Βιβλιοθήκη 因为X n 两两不相关, 故