资源描述：
《湘大信息论与编码试卷》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。
1、一、填空题(每空1分，共3U分)(1)在现代通信系统中，信源编码主耍用丁•解决信息传输小的有效性,信道编码主耍用丁•解决信息传输中的可靠性,加密编码主耍用丁解决信息传输中的安金性。(2)不可能事件的白信息量是——8一，必然事件的自信息是0o(3)离散平稳无记忆信源X的N次扩展信源的爛筹于离散信源X的爛的N倍。(4)在信息处理屮，随着处理级数的增加，输入和输出消息之间的平均互信息最会减少。(5)若一离散无记忆信源的信源爛H(X)等于2.5,对信源进行等长的无失真二进制编码，则编码长度至少为_o(6)假设每个消息的发出都是等概率的，凹进制脉冲所含信息量是二进
2、制脉冲的2倍。(7)对于香农编码、费诺编码和霍夫曼编码，编码方法惟一的是_香农编码。霍夫曼编码方法构造的是最住码。(8)已知某线性分组码的最小汉明距离为3,那么这组码最多能检测出—个码元错误，最多能纠正—个码元错误。(9)设有一个离散无记忆平稳信道，其信道容量为C,只耍待传送的信息传输率R小于C(大于、小于或者等于)，则存在一种编码，当输入序列长度n足够人，使译码错谋概率任意小。(10)平均错谋概率不仅与信道木身的统计特性有关,还与详码规则和编码方法有关(11)互信息I(X;Y)与信息爛H(Y)的关系为：I(X;Y)小于(大于、小于或者等于)H(Y)O(
3、12)克劳夫特不等式是唯一可译码存在的充要条件。｛00,01,10,11｝是否是唯一可译码？是。(13)茅错控制的基本方式大致町以分为前向纠错、反馈重发和混合纠错。(14)如果所有码字都配置在二进制码树的叶节点，则该码字为唯呵译码o(15)设信道输入端的爛为H(X),输出端的爛为H(Y),该信道为无噪启损信道，则该信道的容最为MaxH(Y)o(16)某离散无记忆信源X,其符号个数为n,则当信源符号呈等概分布情况下,信源爛取最大值log(n)。(17)平均互信息是输入信源概率分布的_I••凸函数;平均互信息是信道转移概率的下凸函数,平均互信息的最大侑为信道
4、容最。二、简答题(共4题，每题5分)1,简述自信息和平均自信息量自信息:/(x/)=log21PMqH(兀)=一工/?(x,)log2。(兀)平均白信息最：I2,简述信源的符号之间的依赖与信源兀余度的关系。当信源的符号之间有依赖时，住源输出消息的不确定性减弱。而信源冗余度正是反映信源符号依In赖关系的强弱，冗余度越大，依赖关系就越大。1,简述香农第一编码定理的物理意义？1•答：无火真信源编码，编码后尽可能等概率分布，使每个码元平均信息量最大。从而使信道信息传输率R达到信道容量C,实现信源与信道理想的统计匹配。2,什么是最小码距，以及它和检错纠错能力之间的
5、关系。某一码书C中，任意两个码字Z间汉明距离的最小值称为该码的最小码距Dmin.当已知某线性分纟R码的最小汉明距离为Dmin,那么这纽•码最多能检测出e=Dmin-l个码元错谋，最多能纠正t=（Dmin-l）/2个码元错误。三、计算题（共6题，每题10分）1,有两个二元随机变量尤和匕它们的联合概率为定义另一随机变量Z=—般乘积），试计算H（Z）=?解：Z=XY的概率分布如下：■Z■f、©=0z2=1=V71>P(Z)18.z(7711H(Z)=p(zQ=log—+—log—=0.544bit/symbol2,二元对称信道如图。311）若p（o）=-,p（
6、l）=-,求H（X）、H（XIr）和/（X;Y）；2）求该信道的信道容量。解：1）共6分=0.8113城/符号H(X
7、7)=0.749/?/7/符号Z(X；y)=0.0616灵/符号2）,（J=0.082如f/符号（3分）此时输入概率分布为等概率分布。（1分）3,求以卜•二个信道的信道容量:■010010'000001P10100P2L000000113答:P1为一一对应确定信道,因此有C1=maxH(X)=log24=2竝/符号P2为具有归并性能的信道，因此有©FaxH(lf)=log23=1.5995bit/W#。■X■兀2兀3兀4兀5兀6兀7P(X
8、)0.20」90」80」50」0.014,•信源空间为长和编码效率(耍求有编码过程)。，试构造二元霍夫曼码，计算其平均码0.2()0.200.190.180.170.150.10&0.190.180.11」0.170.150.200.260.190.200.18亠0.260.350.350.260.190.390.39.61°.00.01JJ信源符号"/概率"(©)码字*码长lj©0.20102"20.191120.180003%0.1700130.15(1103他0.1001104(1.0.0101114厶二丫卩(训=2.72码元/符号恥〃(X)=2.
9、612.72比特/符号1,己知一个高斯信道，输入信噪比(比率)为3。频带为3kH
