信息论与编码（汤学明）习题答案

《信息论与编码（汤学明）习题答案》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、第2章信源爛2.1试问四进制、丿就制脉冲所含信息量是二进制脉冲的多少倍？解：以等概率岀现的四进制码元(0,1,2,3),各个码元岀现的概率均为鲁,故：/(0)=/(I)=1(2)=/(3)=-log{=2bit/符号同理可得八进制脉冲所含信息量为3bit/符号可见四进制、丿魄制脉冲所含信息量分别是二进制脉冲的2、3倍2.2假设一副充分洗乱了的扑克牌(含52张牌)，试问：⑴任一特定排列所给出的信息量是多少？⑵若从中抽取13张牌，所给出的点数都不相同能得到多少信息量？解：(1)整副牌共有g=52!种不同排列，因牌已充分洗均，毎种排列是等概率的，贝V任一特定輔列所给出的信息量为

2、：-log吉=225.581bit/符号⑵从整副牌中随机抽取13张牌，共有种抽取法，所给出点数均不相同的抽取法为从每个点数的4张花色中抽取一张，共抽13次，共有4门种抽法，则所给出的点数都不相同能得到的信息量为：—log(4】7C；)«13.208bit/符号2.3居住某地区的女孩子有25%是大学生，在女大学生中有75%是身高160厘米上的，而女孩子中身高160厘米以上的占总数的一半。假如我们得知“身高160厘米以上的某女孩子是大学生”的消息，问获得多少信息量？YPY旳（身高v160cm）0.50解：设随机变量X代表女孩子学历，Y代表女孩子身高，即：X_xx(大学生)兀

3、2(非大学生)[0.25厶0.75且：心

4、西）=75%故：心丨必）二TogOU

5、yj=_log~^=-log心就⑷=-log器a=1.415bit/符号2.4某离散无记忆信源第2章信源爛2.1试问四进制、丿就制脉冲所含信息量是二进制脉冲的多少倍？解：以等概率岀现的四进制码元(0,1,2,3),各个码元岀现的概率均为鲁,故：/(0)=/(I)=1(2)=/(3)=-log{=2bit/符号同理可得八进制脉冲所含信息量为3bit/符号可见四进制、丿魄制脉冲所含信息量分别是二进制脉冲的2、3倍2.2假设一副充分洗乱了的扑克牌(含52张牌)，试问：⑴任一特定排列所给出的信息量是多

6、少？⑵若从中抽取13张牌，所给出的点数都不相同能得到多少信息量？解：(1)整副牌共有g=52!种不同排列，因牌已充分洗均，毎种排列是等概率的，贝V任一特定輔列所给出的信息量为：-log吉=225.581bit/符号⑵从整副牌中随机抽取13张牌，共有种抽取法，所给出点数均不相同的抽取法为从每个点数的4张花色中抽取一张，共抽13次，共有4门种抽法，则所给出的点数都不相同能得到的信息量为：—log(4】7C；)«13.208bit/符号2.3居住某地区的女孩子有25%是大学生，在女大学生中有75%是身高160厘米上的，而女孩子中身高160厘米以上的占总数的一半。假如我们得知“身

7、高160厘米以上的某女孩子是大学生”的消息，问获得多少信息量？YPY旳（身高v160cm）0.50解：设随机变量X代表女孩子学历，Y代表女孩子身高，即：X_xx(大学生)兀2(非大学生)[0.25厶0.75且：心

8、西）=75%故：心丨必）二TogOU

9、yj=_log~^=-log心就⑷=-log器a=1.415bit/符号2.4某离散无记忆信源X_fXj=1x2=2x3=3£=4]=t38141418J其发岀的消息为：(202120130213001203210110321010021032011223210),求:(1)此消息的自信息量是多少？(2)在此消息中平均每个

10、等号携带的信息量是多少？解:此消息共有14个“0”，13个“1”，12个“2”,6个“3”(1)此消息发出的概率为:p=(i)14(i)l3(i)12(})6,因此此消息的自信息量为：/=-log87.81bit/消息(2)此消息平均每个符号携带的自信息量为：=87.81/45=1.951bit/符号2.5从大量统计资料知道，男性中红绿色盲的发病率为7%,女性发病率为0.5%,姒果你问一位男士：“你是否是色盲？”他的回答可能是“是”,可能是“否”，问这两个回答中各含有多少信息量，平均每个回答中含有多少信息量？如果问一位女士，则答案中含有的平均自信息量是多少？解：由已知可得

11、男女色盲概率分布如下：M]二艸(色盲)加,正常)]「尸]二〃(色盲)乙(正常)]_PV/J-[0.070.93J出」一[0.0050.995//("2])=-log/?(/??,)=-logO.07-3.837bit/符号/(/?22)=-logp(m2)=-log0.93=0.105bit/符号=-EtiP(mJlogp(m)=-(0.07log0.07+0.93log0.93)«0.366bit/符号H(F)=一X-=]p(/)logp(f{)=-(0.005log0.005+0.995log0.995)-0.045bit