资源描述：
《信息论与编码课后答案》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、习题（第1章）1.一位朋友很不赞成“通信的目的是传送信息”及“消息中未知的成分才算是信息”这些说法。他举例说：我多遍地欣赏梅兰芳大师的同一段表演，百看不厌，大师正在唱的正在表演的使我愉快，将要唱的和表演的我都知道，照你们的说法电视里没给我任何信息，怎么能让我接受呢？请从信息论的角度对此做出解释。（主要从狭义信息论与广义信息论研究的内容去理解和解释）答：从狭义信息论角度说，虽然将要表演的内容观众已知，但每一次演出不可能完全相同。而观众在欣赏的同时也在接受着新的感观和视听享受。从这一角度来说观众还是可以得到新的信息的。另一种解释可以从广义信息论角度来说，它涉及
2、了信息的社会性，实用性等主观因素，同时受知识水平、文化素质的影响。京剧朋友们在欣赏京剧时也因为主观因素而获得了享受，因此属于广义信息论范畴。2．利用图1.2所示的通信系统分别传送同样时间（例如十分钟）的重大新闻公告和轻音乐，它们在接收端各方框的输入中所含的信息是否相同，为什么？答：重大新闻是语言，频率为300-3400Hz,而轻音乐的频率为20-20000Hz。同样的时间内轻音乐的采样编码的数据要比语音的数据量大，按码元熵值，音乐的信息量要比新闻大。但在信宿端，按信息的不确定量度信息量就应分别对待，对于新闻与音乐的信息量大小在广义来说因人而异。1习题（第2
3、章）1．一珍珠养殖场收获240颗外观及重量完全相同的特大珍珠，但不幸被人用外观相同但重量仅有微小差异的假珠换掉1颗。（1）一人随手取出3颗，经测量恰好找出了假珠，问这一事件大约给出了多少比特的信息量；（2）不巧假珠又滑落进去，那人找了许久却未找到，但另一人说他用天平最多6次能找出，结果确是如此，问后一事件给出多少信息量；（3）对上述结果作出解释。解：（1）从240颗珠子中取3颗，含1颗假珠的概率为2CP=239=1C380240I=−logP=log80=.632(bit)22（2）240颗中含1颗假珠，用天平等分法最多6次即可找到假珠，是必然事件，因此信
4、息量为0。（3）按照shannon对信息量的定义，只有事件含有不确知成分，才有信息量，且不确知成分越大，信息量越大，必然事件则没有信息量。但从广义信息论来说，如果那人不知用天平二分法找假珠，另一人告之此事，使他由不知到知，也应该含有一定的信息量。52．每帧电视图像可以认为是由3×10个象素组成，所有象素均独立变化，且每一象素又取128个不同的亮度电平，并设亮度电平等概率出现。问每帧图像含有多少信息量？如果一个广播员在约10000个汉字的字汇中选取1000个字来口述此电视图像，试问广播员描述此图像所广播的信息量是多少（假设汉字字汇是等概率分布，且彼此独立）？
5、若要恰当地描述此图像，广播员在口述中至少需用多少汉字？解：设电视图像每个像素取128个不同的亮度电平，并设电平等概率出现，则每个像素亮度含有的信息量为H(X)=lb128=7比特/像素一帧中像素均是独立变化的，则每帧图像信源就是离散亮度信源的无记忆N次扩展信源。得每帧会图像含有的信息量为N6H(X)=NH(X)=1.2×10比特/每帧广播口述时，广播员是从10000个汉字字汇中选取的，假设汉字字汇是等概率分布的，则汉字字汇中每个汉字含有的信息量1HY()==lb1000013.29比特/字广播员口述电视图像是从此汉字字汇信源中独立地选取1000个字来描述的
6、。所以，广播员描述此帧图像所广播的信息量为N44H(Y)=NH(Y)=1000lb10=.1329×10比特/千字若广播员仍从此汉字字汇信源Y中独立地选取汉字来描述电视图像，每次口述一N个汉字含有信息量是H(Y)，每帧电视图像含有的信息量是H(X)，则广播员口述此图像至少需要的汉字数等于N6H(X)1.2×105==.158×10=158000字H(Y)13.293．已知X：1,0P(X)：p,1–p(1)求证：H(X)=H(p)(2)求H(p)并作其曲线，解释其含义。（1）证明H(X)=pI(1)+(1−p)I(0)=−plbp−(1−p)lb(1−p)
7、=H(p)（2）H(p)100.51p该H(p)曲线说明，当0与1等概出现时，即p=0.5时，熵最大。当p由0.5分别趋向于0和1时，熵逐渐减小至0。4．证明H(X3
8、X1X2)≤H(X2
9、X1)，并说明等式成立的条件。证明：设离散平稳信源输出的随机符号序列为…X1,X2,X3,…。又设2x∈X,x∈X,x∈X,而且x,x,x都取自于同一符号集112233123A={a,a,",a}，并满足有12g∑P(x2
10、x1)=,1∑P(x3
11、x2)=,1∑P(x3
12、x1x2)=,1X2X3X3∑P(x1)=∑P(x2)=∑P(x3)=1X1X2X3∑∑P(x1x2
13、)=∑∑P(x2x3)=∑∑P(x1x3)=1XX12XX23XX
