信息论与编码课程习题1——预备知识 概率论与马尔可夫链1、某同学下周一上午是否上课,取决于当天情绪及天气情况,且当天是否下雨与心情好坏没有关系。
若下雨且心情好,则50%的可能会上课;若不下雨且心情好,则有10%的可能性不上课;若不下雨且心情不好则有40%的可能性上课;若下雨且心情不好,则有90%的可能不会上课。
假设当天下雨的概率为30%,该同学当天心情好的概率为20%,试计算该同学周一上课的可能性是多大? 分析:天气情况用随机变量X 表示,“0”表示下雨,“1”表示不下雨;心情好坏用Y 表示,“0”表示心情好用“0”表示,心情不好用“1”表示;是否上课用随机变量Z 表示,“0”表示上课,“1”表示不上课。
由题意可知已知[]5.00,0|0====Y X Z P ,[]5.00,0|1====Y X Z P []1.00,1|1====Y X Z P ,[]9.00,1|0====Y X Z P []4.01,1|0====Y X Z P ,[]6.01,1|1====Y X Z P []9.01,0|1====Y X Z P ,[]1.01,0|0====Y X Z P []3.00==X P ,[]7.01==X P []2.00==Y P ,[]8.01==Y P即题目实际上给出了八个个条件概率和四个概率[][][][]0,0|00|000===⋅==⋅===X Y Z P X Y P X P Z P[][][]0,1|00|10===⋅==⋅=+X Y Z P X Y P X P [][][]1,0|01|01===⋅==⋅=+X Y Z P X Y P X P [][][]1,1|01|11===⋅==⋅=+X Y Z P X Y P X P 由于X ,Y 相互独立,则有[][][][]0,0|0000===⋅=⋅===X Y Z P Y P X P Z P[][][]0,1|010===⋅=⋅=+X Y Z P Y P X P [][][]1,0|001===⋅=⋅=+X Y Z P Y P X P [][][]1,1|011===⋅=⋅=+X Y Z P Y P X P[]5.02.03.00⨯⨯==Z P 1.08.03.0⨯⨯+9.02.07.0⨯⨯+1.08.07.0⨯⨯+ =?注意:全概率公式的应用2、已知随机变量X 和Y 的联合分布律如又表所示, 且()Y X Y X g Z +==211,,()Y X Y X g Z /,22==,求:Z的分布律与数学期望1)1Z的分布律与数学期望2)23)1Z 大于10的概率4)由上面的例子,你是否能得到离散随机变量函数的数学期望的一般表达式?包括一元和多元随机变量函数。
分析: 1)[]()()()()()22222211221222111121212111,p y x p y x p y x p y x p y x g Z E j i ij j i ⋅++⋅++⋅++⋅+==∑∑==()()()()4.0621.0523.0612.0512222⨯++⨯++⨯++⨯+=?=2)[]()()()()()2222211212211111212122////,p y x p y x p y x p y x p y x g Z E j i ij j i ⋅+⋅+⋅+⋅==∑∑==()()()()4.06/21.05/23.06/12.05/1⨯+⨯+⨯+⨯=?=说明:主要考虑联合分布律与随机变量函数分布律的关系 3)[]101>Z P ()[]=Y E thenX g Y if14)()[]()∑∑==ijij j i p y x g Z E thanY X g Z if ,,22()[]()∑∑∑==kijijk k j i p z y x g A E thanZ Y X g A if,,,,33and so on.3、已知随机变量X 的概率密度函数为⎩⎨⎧≥≥<>=-ax b ax or b x x f ab X 10)(,其中10,3==b a ,()2X X g Y ==为X 的函数,求:1)随机变量X 小于或等于5的概率 2)随机变量Y 的概率密度函数 3)随机变量Y 大于10的概率 4)随机变量Y 的数学期望 分析1)[]()72537155===≤⎰⎰∞-dx dx x f X P X2)假设用()()()y F y f x F Y Y X ,,分别表示随机变量X 的分布函数、随机变量Y 的概率密度函数和分布函数,则有:()[][]yX P y Y P y F Y ≤=≤=2[]⎩⎨⎧≥≤≤-<=00y yX y P y ()⎪⎩⎪⎨⎧≥<=⎰-00y dxx f y y yX()()⎩⎨⎧≥--<=000y y F y F y XX有()()()()[]⎪⎪⎩⎪⎪⎨⎧≥--<==0y dyy F y F d y dy y dF y f XXY Y()()⎪⎩⎪⎨⎧≥⋅-+⋅<=02121y y f y f y yX y X3)[][][]()⎰--=≤≤--=≤-=>101011010110110dx x f X P Y P Y P X73101110371--=-=⎰dx 4)[][]()?10371222====⎰⎰∞∞-dx x dx x f x X E Y E X4、已知随机变量X 和Y 的联合概率密度函数为⎩⎨⎧≥≥≥≥=others y and x y x f XY 00231),(41,()Y X Y X g Z 2,2+==。
1)求随机变量Z 的数学期望 2)求随机变量Z 的概率密度函数3)结合习题3,总结连续随机变量的函数的数学期望的一般表达式,包括包括一元和多元随机变量函数。
分析: 1)[]()()()?2,,2031412=⋅+=⋅=⎰⎰⎰⎰∞∞-∞∞-dy dx y xdy dx y x f y x g Z E XY2)()[][]z Y X P z Z P z F Z ≤+=≤=2=()⎰⎰≤+zy x XYdxdyy x f 2,3)()[]()()⎰∞∞-==dx x f x g Y E thenX g Y if X 11()[]()()⎰⎰∞∞-∞∞-==dy dx y x f y x g Z E thanY X g Z if XY ,,,22()[]()∑∑∑==kijijkkjip z y x g A E thanZ Y X g A if,,,,33and so on.P352 T2给定随机过程{}(),X t t T ∈,x 是任意实数,定义另一随机过程1()()0()X t x Y t X t x ≤⎧=⎨>⎩试将的均值函数和自相关函数用随机过程()X t 的一维和二位分布函数表示出来 分析:由题知,是随机过程,()Y t 的取值由()X t 决定,所以()Y t 也是随机过程。
由题中不知道随机过程()X t 是连续还是离散,但()Y t 一定是离散随机过程,它的样本空间是{}0,1。
概率分布可以表示成如下形式因为()Y t 等于1的概率等于()X t 小于等于x 的概率(),()Y t 等于0的概率等于()X t 大于x 的概率([][]()0()P Y t P X t x ==>)。
因此有[][][][]()1()0()()(;)X E Y t P X t x P X t x P X t x F x t =⨯≤+⨯>=≤=。
同理,由题知()()1122121()()0X t x X t x Y t Y t ≤≤⎧⋅=⎨⎩且其它所以得到[]()()[][]1212111111111212,1(),()0(),()(,;,)Y X R t t E Y t Y t P X t x X t x P P X t x X t x F x x t t =⋅⎡⎤⎣⎦=⨯≤≤+⨯⎡⎤⎣⎦=≤≤=其它P352 T3设随机过程()AtX t e =,0t >,其中A 是在区间[]0,a 服从均匀分布的随机变量。
试求()X t 的均值函数和自相关函数。
分析:A 是随机变量,t 是普通变量,所以()X t 是随机过程。
由题知A 的概率密度函数为10()0aA y a f y ≤≤⎧=⎨⎩其它 因为随机过程()X t 可以看作是随机变量A 的函数,因此有 ()1()()ayt yt X A a t E X t e f y dy e dyμ∞-∞==⋅=⋅⎡⎤⎣⎦⎰⎰()()()1212112120(,)()a y t tyt yt X A a R t t E X t X t e e f y dy edy∞+-∞=⋅=⋅⋅=⋅⎡⎤⎣⎦⎰⎰注意A 才是随机变量,不是我们习惯的X 。
注意理解其本质意义,否则换个符号表示就会难倒你。
P353 T9()(),X t Y t t T∈,是互不相关的随机过程。
()()()()()()Z t a t X t b t Y t c x =++,其中(),(),()a t b t c x 是普通函数。
求()Z t 的均值函数和自相关函数。
分析:1()()()()()()[]()()()()()()Z t E Z t E a t X t b t Y t c x E a t X t E b t Y t E c t μ==++⎡⎤⎡⎤⎣⎦⎣⎦=++⎡⎤⎡⎤⎣⎦⎣⎦因为数学期望运算只对随机变量和随机过程起作用,对普通函数、普通变量和常量不起作用。
(为什么?)。
所以()()()()()()()()()()()Z X Y t a t E X t b t E Y t c t a t t b t t c t μμμ=⋅+⋅+=++⎡⎤⎡⎤⎣⎦⎣⎦分析2()()()()()()()()Z X Y Z t t a t X t t b t Y t t μμμ-=-+-⎡⎤⎡⎤⎣⎦⎣⎦()()(){}121122,()()Z z z C t t E Z t t Z t t μμ=--⎡⎤⎡⎤⎣⎦⎣⎦()(){}()(){}{}111111222222()()()()()()()()X Y X Y E a t X t t b t Y t t a t X t t b t Y t t μμμμ=-+--+-⎡⎤⎡⎤⎡⎤⎡⎤⎣⎦⎣⎦⎣⎦⎣⎦()()()(){}()(){}1212121211222211()(),()(),()()()()X Y X Y X Y a t a t C t t b t b t C t t E X t t Y t t E X t t Y t t μμμμ=++--+--⎡⎤⎡⎤⎡⎤⎡⎤⎣⎦⎣⎦⎣⎦⎣⎦因为()(),X t Y t 相互独立,则其在任何时刻对应的随机变量之间也相互独立,即()()()()i j i j E X t Y t E X t E Y t ⎡⎤⎡⎤=⎡⎤⎣⎦⎣⎦⎣⎦。