第一章（绪论）习题及其答案
【题1－1】设英文字母E 出现的概率为0.105，x 出现的概率为0.002。试求E 及x 的信息量。
【答案1－1】
字母E 出现的概率p (E ) =0.105，由信息量公式，可知其信息量为：
I E =log 211=log 2() =3.25bit p (E ) 0.105
字母x 出现的概率为p (x ) =0.002，由信息量公式，可知其信息量为：
I x =log 211=log 2() =8.97bit p (x ) 0.002
【题1－2】某信息源的符号集由A,B,C,D 和E 组成，设每一符号独立出现，其出现概率分别为1/4,1/8,1/8,3/16和5/16。试求该信息源符号的平均信息量。
【答案1－2】
H (x ) =-∑p (x i )log 2p (x i )
i =1n 直接利用公式( bit/符号) ，将p (A ) =1/4，
p (B ) =1/8，p (C ) =1/8，p (D ) =3/16，p (E ) =5/16代入求解，有
H (x ) =-∑p (x i )log 2p (x i )
i =1n
1111113355 =-log 2-log 2-log 2-log 2-log [**************]
=2.23bit /符号
p A =1111, p B =, p C =, p D =4882【题1－3】设有4个消息A 、B 、C 和D 分别以概率
传输，每个消息的出现是相互独立的，试计算其平均消息量。
【答案1－3】
11111111H (x ) =-∑p (x i )log 2p (x i ) =-log 2-log 2-log 2-log 244888822i =1
=1.75bit /符号
【题1－4】一个由字母A,B,C,D 组成的字，对于传输的每一个字母用二进制脉冲编码，00代替A,01代替B,10代替C,11代替D, 每个脉冲宽度为5ms ：
1）不同的字母是等可能出现时，试计算传输的平均信息速率；
1113p A =, p B =, p C =, p D =54410，试计2）若每个字母出现的可能性分别为n
算传输的平均信息速率。
【答案1－4】
1）不同字母等概率出现时，每个字母平均信息量即达到了信息源的最大熵：H (x ) =log 24=2bit /符号，每个字母用二进制脉冲编码，每个脉冲宽度为5ms ，所以每个字母的持续时间是2×5ms ，字母传输速率为：
R B =11==100T 2⨯5⨯10-3 Baud
平均信息速率为：R b =R B ⨯H (x ) =200bit /s
2）每个字母不等概率出现时，每个字母的平均信息量为
11111133H (x ) =-∑p (x i )log 2p (x i ) =-log 2-log 2-log 2-log [1**********]i =1
=1.985bit /符号
平均信息速率为：R b =R B ⨯H (x ) =100⨯1.985=198.5bit /s
【题1－5】设一信息源的输出由128个不同符号组成，其中16个出现的概率为1/32，其余112个出现的概率为1/224。信息源每秒发出1000个符号，且每个符号彼此独立。试计算该信息源的平均信息速率。
【答案1－5】
每个符号的平均信息量为：
H (x ) =-∑p (x i )log 2p (x i ) =-16⨯
i =1n n 1111log 2-112⨯log 2=6.404bit /符号3232224224
已知码元速率R B =1000Baud ，所以平均信息速率为
R b =R BN ⨯H (x ) =1000⨯6.404=6404bit /s
【题1－6】设一数字传输系统传送二进制码元的速率为1200Baud ，试求该系统的信息速率；若该系统该为传送十六进制信号码元，码元速率为2400Baud ，则这时的系统信息速率为多少？
【答案1－6】
传送二进制码元时，R b =R B =1200bit /s
传送十六进制码元时，R b =R B ⨯log 216=2400⨯4=9600bit /s
第一章（绪论）习题及其答案
【题1－1】设英文字母E 出现的概率为0.105，x 出现的概率为0.002。试求E 及x 的信息量。
【答案1－1】
字母E 出现的概率p (E ) =0.105，由信息量公式，可知其信息量为：
I E =log 211=log 2() =3.25bit p (E ) 0.105
字母x 出现的概率为p (x ) =0.002，由信息量公式，可知其信息量为：
I x =log 211=log 2() =8.97bit p (x ) 0.002
【题1－2】某信息源的符号集由A,B,C,D 和E 组成，设每一符号独立出现，其出现概率分别为1/4,1/8,1/8,3/16和5/16。试求该信息源符号的平均信息量。
【答案1－2】
H (x ) =-∑p (x i )log 2p (x i )
i =1n 直接利用公式( bit/符号) ，将p (A ) =1/4，
p (B ) =1/8，p (C ) =1/8，p (D ) =3/16，p (E ) =5/16代入求解，有
H (x ) =-∑p (x i )log 2p (x i )
i =1n
1111113355 =-log 2-log 2-log 2-log 2-log [**************]
=2.23bit /符号
p A =1111, p B =, p C =, p D =4882【题1－3】设有4个消息A 、B 、C 和D 分别以概率
传输，每个消息的出现是相互独立的，试计算其平均消息量。
【答案1－3】
11111111H (x ) =-∑p (x i )log 2p (x i ) =-log 2-log 2-log 2-log 244888822i =1
=1.75bit /符号
【题1－4】一个由字母A,B,C,D 组成的字，对于传输的每一个字母用二进制脉冲编码，00代替A,01代替B,10代替C,11代替D, 每个脉冲宽度为5ms ：
1）不同的字母是等可能出现时，试计算传输的平均信息速率；
1113p A =, p B =, p C =, p D =54410，试计2）若每个字母出现的可能性分别为n
算传输的平均信息速率。
【答案1－4】
1）不同字母等概率出现时，每个字母平均信息量即达到了信息源的最大熵：H (x ) =log 24=2bit /符号，每个字母用二进制脉冲编码，每个脉冲宽度为5ms ，所以每个字母的持续时间是2×5ms ，字母传输速率为：
R B =11==100T 2⨯5⨯10-3 Baud
平均信息速率为：R b =R B ⨯H (x ) =200bit /s
2）每个字母不等概率出现时，每个字母的平均信息量为
11111133H (x ) =-∑p (x i )log 2p (x i ) =-log 2-log 2-log 2-log [1**********]i =1
=1.985bit /符号
平均信息速率为：R b =R B ⨯H (x ) =100⨯1.985=198.5bit /s
【题1－5】设一信息源的输出由128个不同符号组成，其中16个出现的概率为1/32，其余112个出现的概率为1/224。信息源每秒发出1000个符号，且每个符号彼此独立。试计算该信息源的平均信息速率。
【答案1－5】
每个符号的平均信息量为：
H (x ) =-∑p (x i )log 2p (x i ) =-16⨯
i =1n n 1111log 2-112⨯log 2=6.404bit /符号3232224224
已知码元速率R B =1000Baud ，所以平均信息速率为
R b =R BN ⨯H (x ) =1000⨯6.404=6404bit /s
【题1－6】设一数字传输系统传送二进制码元的速率为1200Baud ，试求该系统的信息速率；若该系统该为传送十六进制信号码元，码元速率为2400Baud ，则这时的系统信息速率为多少？
【答案1－6】
传送二进制码元时，R b =R B =1200bit /s
传送十六进制码元时，R b =R B ⨯log 216=2400⨯4=9600bit /s