第二章教育信息熵习题
填空:
1、对于n个事件构成的概率系统,设每一事件产生的概率为pi(i=1~n),则每一事件产生的平均信息量为:_______,我们称之为_______,简称______。
它的大小可用于表示概率系统的。
它所具有的基本性质有______、______、______、______、______。
2、基于联合熵H(X,Y) 和条件熵H(X︱Y)、H(Y︱X),互信
息量I(X,Y)= _______= _______。
3、最大熵原理是___________________。
熵模型是_____________________。
4、熵模型方法的基本流程图为_______,其目的函数为
______。
5、学习者对4道多重选择问题的应答概率分布为:
1( 0.5 , 0.5 , 0 , 0 , 0 )
2( 0.5 , 0.25 , 0.25 )
3( 0.5 , 0.125 , 0.125 , 0.125 , 0.125 )
4( 0.5 , 0.25 , 0.125 , 0.125 )
请算出: 每道题的应答信息熵:__________;
每道题的等价选项数: ___________;
每道题的相对信息熵:___________及冗余度______; 及这4道题的平均相对熵:______。