又因为 ，很容易得到
(c)上述功率谱密度与MSK是相同的，因此MSK可以产生交错四相PSK信号，其中g(t)是半个周期的正弦脉冲。
4.16
对于u(t)是广义平稳，必须有 的条件。
4.17第一个基函数为：
第二个基函数：
所以：
表示 的能量，
第三个基函数：
所以有
第四个基函数
4.20 的自相关函数：
令 ，那么：
用矩阵表示4个波形为：
因此波形的维数是4.
(b)波形由向量表示为：
(c)第1，2向量之间的距离为：
同理：
因此，任意两个向量之间的最小距离为
4.13 的功率谱密度从2.14题有：
Y(t)的功率谱密度如图：
4.14
(a)因为每个序列信号速率是1/2T，g(t)的间隔为2T，在2nT t 2nT+T，
(b)功率谱密度：这里：
平均比特率：
(b)一次编码两个电平符号，霍夫曼码的设计如下：
每电平对的二进制平均比特数为：
一个电平的平均比特数为：
(c)
因为
3.25采用Lempel-Ziv编码方法分解题中序列，可以得到一下码段：
0, 00, 1, 001, 000, 0001, 10, 00010, 0000, 0010, 00000, 101, 00001,000000, 11, 01, 0000000, 110, ...
码段数是18，对每一码段需要5位加一个附加位来表征一个新的信源输出。
3.27因为可得
下图描述了R(D)在 取0，1，2，3时的值，从图中可看出， 增加，失真率也在增加。
3.30 (a)
由于X,G是相互独立，因此有p(x, g) =p(x)p(g),p(x|g) = p(x).
(b)
因为X,G是相互独立，所以Y也是独立，
2.9根据柯西分布有
当 很大时，所以有
(b)
当
当 ，
因此有：
2.10 (a)
(b)
(c)因为n→∞,不是高斯分布，因此中心极限定理不适用，原因是柯
西分布没有有限的差异。
2.11假定是实值随机过程。复值过程的处理也类似。
(a)
(b)当x(t), y(t)不相关时，
同理
因此
(3)当x(t), y(t)不相关并且零均值时：
4.5从傅里叶变换特性知道，如果x(t)是实值的，那么它的傅里叶变换满足，
因此 为实值的条件是： 。对于带通信号 ，有 。而 ，满足此条件的 说明是实值低通信号，等效的带通信号正频部分在中心频率 附近应该具有埃尔米特对称性，但一般来讲，带通信号不满足这个特性，因此，对应的低通信号是复值信号。
4.6利用估计理论中基于均方误差准则的结论，当误差正交于级数展开式的每一个函数时，获得 的最小值，因此:
(c)信源熵为：
通过比较，信源熵要少于每个码字的平均长度。
3.9 (a)
(b)
3.11 (a) P(x)可以通过求得。
因此
类似地可证明
(b)利用不等式 和 ，可以得到
将不等式两边乘以P(x, y)并对x，y求和，即可得
故有
当=1时取等号。
(c)
从(b)联立两个关系式可得：
当x，y独立取等号。
3.13
比特数：
利用 矢量量化，有 ， ，比特差：
3.41 X,Y的联合概率密度函数为：边缘分布P(x)：
当 ，
当 ，
的图如下:
根据对称性：
(b)
总的失真为
每对(x,y)所要的比特数为：
(c)采用矢量量化，失真度D
4.2
这里h(t)= ,
它的傅里叶反变换：
而
4.3 (a)
然而 ，因此有：
(b) ,
从(a)的结果有
因为函数 是正交的，(1)式只存在k=n的部分即可简化为：
也即有
相应的残余误差 为：
4.9信号波形 的能量为：
相关系数：
4.10 (a)波形 是正交的，只要证明
因此 是正交的。
(b)先确定加权系数
由上看到，从信号波形 ，n=1，2，3来看， 是正交的，因此它不能表示为这些函数的线性组合。
4.11 (a)作为正交基函数集，考虑集合：
4.21
(a)因为 ，所以有：
每个符号概率 ，信号空间为：
(b)
序列 包含的独立符号为：
所以
(c)转移矩阵为：
相应的马尔可夫链：
4.22 (a)
序列 与随机变量不相关，所以有：
2.12随机过程x(t)的功率谱密度为：
滤波器输出功率谱密度为：
因此滤波器输出总功率为：
2.14
令
因此
2.16滤波器的传递函数为:
(a)
(b)
令a = RC, v =2πf.那么
2.19因为
输出序列的自相关：
这里的最后等式来自于X(n)的自相关函数：
因此
离散时间系统的频率响应为：
综上，系统输出的功率密度谱为：
2.24
由于G=1，有
对低通滤波器，可得到：
将H(f)代入可得下式
3.4要证而
利用不等式
当且仅当可得
因为
3.6通过定义，差熵为：
对均匀分布随机变量
(a) a=1,H(X)=0
(b) a=4,H(X)=log4=2log2
(c) a=1/4,H(X)=log =-2log2
3.7 (a)
(b)每信源字符的平均二进制个数为：
2.20已知
功率密度谱为：
2.21本题中引用下标d表示离散过程，下标a表示连续时间过程，同样，f表示模拟频率。fd表示离散频率。
(a)
因此取样信号的自相关函数等于(t)的取样自相关函数。
(b)
令fd = fT，则有：
又因为离散时间的自相关函数是它的功率谱密度的反变换，于是有：
比较(1),(2):得
(c)从(3)式可以得出：
否则出现混叠。
2.22 (a)
(b)如果那么：
K=0
其他
因此序列X(n)是白噪声序列，T的最小值可以从下图的取样过程的功率谱密度得到
为了得到一个谱平坦序列，最大的抽样速率应满足：
(c)可由得到。
因此 ，
2.23假设那么：
这里Y(f)是y(t)的傅里叶变换，因为：
又
有：
当f=0时：
由于Y=X+G，有
所以：
这里，利用了
从H(Y), H(Y |X)，
3.31
3.36
3.38一阶预测器系数a11对预测数据的预测误差的正交性可使得均方误差减小：
最小均方误差为：
(b)对二阶预测器，
根据Levinson-Durbin算法
最小均方误差为：
3.39
如果 用相同的间隔长度 分别量化，所需要的电平数为:
对于平稳过程和中n是独立的，因此就有
3.18在给定的 下， 的条件互信息可定义为：
又
因为有：
3.19假设a>0，已知Y=aX+b是线性变换，
有
令那么
同理，当a<0时，有：
3.20线性变换
因为{yi}和{xi}有相同的概率分布，即有
因此DMS的熵通过线性变换是不产生影响的。
3.21 (a)霍夫曼码的设计如下，