《信息论与编码》习题 发送

《《信息论与编码》习题 发送》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、1、一副充分洗乱的扑克牌（52张），从中任意抽取1张，然后放回，若把这一过程看作离散无记忆信源，则其信源熵为__log252________________。2、信息率失真理论是量化、数模转换、频带压缩和___数据压缩_____________的理论基础。3、信源的消息通过信道传输后的误差越大，信宿收到消息后对信源存在的不确定性就越大，获得的信息量就越小。4、高斯加性噪声信道中，信道带宽3kHz，信噪比为7，则该信道的最大信息传输速率Ct=9kHz。5、BSC信道即：无记忆二进制对称信道。1、给定xi条件下随机事件yj所包

2、含的不确定度和条件自信息量p(yj/xi).(D)A．数量上不等，单位不同B．数量上不等，单位相同C．数量上相等，单位不同D．数量上相等，单位相同2、条件熵和无条件熵的关系是：(C)A．H(Y/X)＜H(Y)B．H(Y/X)＞H(Y)C．H(Y/X)≤H(Y)D．H(Y/X)≥H(Y)3、根据树图法构成规则，(D)A．在树根上安排码字B．在树枝上安排码字C．在中间节点上安排码字D．在终端节点上安排码字4、下列说法正确的是：(C)A．奇异码是唯一可译码B．非奇异码是唯一可译码C．非奇异码不一定是唯一可译码D．非奇异码不是唯一

3、可译码5、下面哪一项不属于熵的性质：(B)A．非负性B．完备性C．对称性D．确定性1、平均互信息量I（X；Y）对于信源概率分布p（xi）和条件概率分布p（yj/xi）都具有凸函数性。（对）2、m阶马尔可夫信源和消息长度为m的有记忆信源，其所含符号的依赖关系相同。（错）3、利用状态极限概率和状态一步转移概率来求m阶马尔可夫信源的极限熵。（对）4、N维统计独立均匀分布连续信源的熵是N维区域体积的对数。（对）5、一维高斯分布的连续信源，其信源熵只与其均值和方差有关。（错）6、连续信源和离散信源的熵都具有非负性。（错）7、连续信源

4、和离散信源都具有可加性。（对）8、连续信源和离散信源的平均互信息都具有非负性。（对）9、定长编码的效率一般小于不定长编码的效率。（对）10、若对一离散信源（熵为H（X））进行二进制无失真编码，设定长码子长度为K，变长码子平均长度为，一般>K。（错）1、证明：平均互信息量同信息熵之间满足I(X;Y)=H(X)+H(Y)-H(XY)2、请给出失真函数、平均失真度、保真度准则、信息率失真函数的定义。1、设输入符号与输出符号为X＝Y∈{0,1,2,3}，且输入符号等概率分布。设失真函数为汉明失真。求Dmax和Dmin及R(Dmax

5、)和R(Dmin)2、请给出连续信源分别为均匀分布、高斯分布和指数分布时信源的相对熵。高斯分布连续信源X的相对熵为：1、求解率失真函数的问题，即：在给定失真度的情况下，求信息率的极小值。2、平方误差失真函数d（xi，yj）=（yi-yj）2平方。3、对于香农编码、费诺编码和哈夫曼编码，编码方法惟一的是香农编码。4、信源编码的目的是：提高通信的有效性__。5、若把掷骰子的结果作为一离散信源，则其信源熵为log2下6。1、纠错编码中，下列哪种措施不能减小差错概率（D）。A.增大信道容量B.增大码长C.减小码率D.减小带宽2、一

6、珍珠养殖场收获240颗外观及重量完全相同的特大珍珠，但不幸被人用外观相同但重量仅有微小差异的假珠换掉1颗。一人随手取出3颗，经测量恰好找出了假珠，不巧假珠又滑落进去，那人找了许久却未找到，但另一人说他用天平最多6次能找出，结果确是如此，这一事件给出的信息量（A）。A.0bitB.log6bitC.6bitD.log240bit3、下列陈述中，不正确的是（D）。A.离散无记忆信道中，H（Y）是输入概率向量的凸函数B.满足格拉夫特不等式的码字为惟一可译码C.一般地说，线性码的最小距离越大，意味着任意码字间的差别越大，则码的检错

7、、纠错能力越强D.满足格拉夫特不等式的信源是惟一可译码4、一个随即变量x的概率密度函数P(x)=x/2，，则信源的相对熵为（C）。A.0.5bitB.0.72bitC.1bitD.1.44bit5、下列离散信源，熵最大的是（D）。A.H（1/3,1/3,1/3）；B.H（1/2,1/2）；C.H（0.9,0.1）；D.H（1/2,1/4,1/8,1/8)1、信道容量C是I（X；Y）关于p（xi）的条件极大值。（对）2、离散无噪信道的信道容量等于log2n，其中n是信源X的消息个数。（错）3、对于准对称信道，当时，可达到信道

8、容量C。（错）4、多用户信道的信道容量不能用一个数来代表。（对）5、多用户信道的信道容量不能用一个数来代表，但信道的信息率可以用一个数来表示。（错）6、高斯加性信道的信道容量只与信道的信噪有关。（对）7、信道无失真传递信息的条件是信息率小于信道容量。（对）8、最大信息传输速率，即：选择某一信源的概率分布