资源描述：
《通信原理习题答案第四章信息论基础习题及解答》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。
1、第四章习题解答4-1、某一信源以概率1/2、1/4、1/8、1/16、1/32和1/32产生6种不同的符号兀］、吃、花、兀、尽和观，每个符号出现是独立的，符号速率为1000（符号）/秒。（1）请计算每个符号所含的信息量；（2）求信源的爛；（3）求单位时间内输岀的平均信息量。解：(1)按定义，各符号所含的信息虽分别为Z(x1)=-log2/?(x1)=-log2
2、=l(/?z7)/(兀2)=-log2p(x2)=-log2*=2(bit)/(x3)=-log2p(^)=-log2-=3(to)/(x4)=-log2p(x4)=-l
3、og2=4(bit)loZ(x5)=-log2/?(x5)=-log2&5㈤)Z(x6)=-log2jp(x6)=-log2-^=5(^)（2）信源的爛H（X）=-》n（禺）吨2〃（兀）1(11,11,11,I1111*1二——log.log.log.log.log9log。一2亠24「48飞16T6322323223222816323216+16+8+5+53216、732（3）单位时间内输出的平均信息量2S/=W(X)/?5=-^-xl000=l562.5(比特/秒)4-2一•个离散信号源每毫秒发出4种符号小的一个，各相互独
4、立符号出现的概率分别为0.4、0.3、0.2和0.1,求该信号源的平均信息量与信息速率。解：信号源的平均信息量，即爛为:H（X）=-工二〃（兀）10£2卩（兀）=-0.4log20.4一0.4log20.4-0.4log20.4-0.4log20.4=1.864（比特/符号）因为符号速率Rs=1/10_3=103,信息速率心Rb=H（X）Rs=1.864X103（比特/秒）4-3设有4个消息符号，其出现的概率分别是1/8、1/8、1/4和1/2,各消息符号的出现是相对独立的，求该符号集的平均信息屋。解：符号集的平均信息量即为其爛
5、H呛）吨2呛）=一2"°8冷_勻°鱼2_+蕊2+一*蕊2*=1・75（比特/符号）4-4计算字母集的信息爛。（1）若把英文的27个字母和空格共27个符号，看作等概出现，求其信息爛；（2）若英文字母和空格的概率分布如题表所示，求其信息爛。题44表英文字母的概率分布字母空格ET0ANIRS概率0.19560.10500.07200.06540.06300.05900.05500.05400.0520字母HDLCFUMPY概率0.04700.03500.02900.02300.02250.02250.02100.01750.0120字
6、母WGBVKXJQZ概率0.01200.01100.01050.00800.00300.00200.00100.00100.0010解：（1）H（X）=27（-丄log丄］=log27=4.75（比特/符号）I2727丿（2）H（X）=工;呛）1。创呛）=4.02（比特/符号）4-5证明两离散信源的条件爛和爛之间满足如下的关系式：I（X-Y）=H（Y）-H（Y/X）解:/（X;Y）=》：工二p（xiyj）l6;儿）=X：石血航騙=X：那畑应需=工:工;;"G叫Sg二X：.心）吨命"S：E.L血兀血兀馬=H{y}-H（y/x）1_
7、1_J__J[p（yj）sp（yj14-6若X与丫统计独立，证明H（Y/X}=H（Y）.解：H（y/x）=工;:Z-=,加y应卅忑j=Z：E-=1p（w）bg由=工;:工；P（xjp（yJlog由=X；=,P（讴;Pbjlog命=殆点应说护X能）询遁：pU）=砒）4-7已知非対称二进制信道，输入符号的概率场为（Xj乜）（o1、心）卩罰-[%信道转移概率矩阵为p(yj旺)”(％/旺))_(p(o/o)1〃（必/兀2）〃（力/吃）丿"（0/1）"(1/0)]"(1/1)丿"0.80.2、,0.10.9丿求：（1）输入符号集X的平均信
8、息量H（X）；（2）输出符号集丫的平均信息最H（Y）；（3）条件爛H（X/Y）和H（Y/X）；（4）平均互信息量/（X』）。解：（1）X的平均信息量H（X）H（X）=-工[〃（兀）10氏〃（兀）
9、133=-—log2—-—log2—=0.81（比特/符号）=-0.275log20.275-0.725log20.725=0.512+0.336=0.848（比特/符号）（3）条件爛H（X/Y）和H（Y/X）因为H（X/Y）=—工二工二〃（兀y）log2/7（x,./儿），故要先求p（Xi/兀）卩（和］）=卩（必/兀1）卩（兀1）=。
10、・血1/4=0.2P（W2）=P（y2/xJP（X
11、）=°・2xl/4=0.05p（x2y1）=p（7i/x2）/?（x2）=0.1x3/4=0.075p（x2y2）=p（y2/x2）#（兀2）=0.9x3/4=0.675h（x/y）=-XtL-=.dS）l0§
