信息论与编码理论-习题答案new

《信息论与编码理论-习题答案new》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第1章绪论1.1信源、编码器、信道、干扰、译码器、信宿1.2香农1.3通信系统模型1.4信号是消息的表现形式，是物理的，比如电信号、光信号等。消息是信息的载荷者，是信号的具体内容，不是物理的，但是又比较具体，例如语言、文字、符号、图片等。信息包含在消息中，是通信系统中被传送的对象，消息被人的大脑所理解就形成了信息。1.5略第2章信息的统计度量2.1少2.2y的出现有助于肯定x的出现、y的出现有助于否定x的出现、x和y相互独立2.3FTTTF2.42.12比特2.5依题意，题中的过程可分为两步，一是取出一枚硬币恰好是重量不同的那一枚，设其发生的概率为p，由于

2、每枚硬币被取出的概率是相同的，所以11p181所需要的信息量IAlogp16.34bit二是确定它比其他硬币是重还是轻，设其发生的概率为p，则21p22总的概率111ppp12812162所需要的信息量Ilogplog1627.34bit2.6设A表示“大学生”这一事件，B表示“身高1.60m以上”这一事件，则pA0.25pB0.5pBA

3、0.75故pABpApBA

4、0.750.25pAB

5、0.375pBpB0.511IAB

6、loglog1.42bitp

7、AB

8、0.3752.7四进制波形所含的信息量为log42bit，八进制波形所含信息量为log83bit，故四进制波形所含信息量为二进制的2倍，八进制波形所含信息量为二进制的3倍。2.8I2log2pbitI3log3pbitII32log31.5852故以3为底的信息单位是比特的1.585倍。2.9（1）J、Z（2）E（3）X2.10（1）两粒骰子向上面的小圆点数之和为3时有(1,2)和(2,1)两种可能性，总的组合数为11CC36，则圆点数之和为3出现的概率为6621p33618故包含的信息量为

9、1I3logp3log4.17bit18（2）小圆点数之和为7的情况有(1,6),(6,1),(2,5),(5,2),(3,4),(4,3)，则圆点数之和为7出现的概率为61p7366故包含的信息量为1I7logp7log2.585bit62.11对于男性，是红绿色盲的概率记作pa7%，不是红绿色盲的概率记作pa93%，12这两种情况各含的信息量为100Ia11log1palog3.83bit7100Ia22log1palog0.105bit93平均每个

10、回答中含有的信息量为793HApa1log1pa1pa2log1pa23.830.1050.366bit100100对于女性，是红绿色盲的概率记作pb0.5%，不是红绿色盲的概率记作pb99.5%，12则平均每个回答中含有的信息量为HBpb1log1pb1pb2log1pb2510009951000loglog1000510009950.045bit所以HAHB2.12天平有3种状态，即平衡，左重，左轻，所以每称一次消除的不确定

11、性为log3，12个11球中的不等重球（可较轻，也可较重）的不确定性为：loglog24，因为1223log3log24,所以3次测量可以找出该球。2.13（1）当最后3场比赛麦克胜的次数比大卫多时，麦克最终才能胜，因此P胜P麦克胜3场P大卫胜少于3场+P麦克胜2场P大卫胜少于2场PP麦克胜10场大卫胜场1734312288888864同理22222220PP负，平164646464麦克最终比赛结果的熵为222220222222222020H,,logl

12、oglog6464646464646464642220log642log22log206464442064.45944.3219646463.06591.35061.5835比特结果因为胜、负、平这3种结果接近等概，所以该随机变量的熵接近最大熵。（2）假定大卫最后3场比赛全部获胜，那么麦克也必须全部获胜最后3场比赛最终才能得3平，否则就是负。麦克3场比赛全部获胜的可能性是21/8，因此在假定大卫最后3场比赛全部获胜的情况下麦克的最终比赛结果的条件熵是17H3log70.5436比特结果88k2.14（1

13、）假定一个家庭里有k个女孩，1个男孩，相应的概率是0.50.5，