信息论与编码答案

《信息论与编码答案》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、1.a.每种彩色度和亮度层次组合的概率P=1/(64*16)。每个彩色像元的自信息量I1=log1/P=10bits/每像元。每帧彩色图像的信息量I2=10*5*105=5*106bit/帧。因为每秒有25帧图像，所以，所需的信道容量至少为C＝5*106*25=1.25*108bitsb.因为，S/N=63C=Wlog2(1+S/N)=6W所以，W＝6C＝20.9MHz2.①H(X)=－∑p(x)logp(x)=2.552bits/符号。由于每秒中只有一个符号，所以传输速率R=H=2.552bits/S②各符号对应的码组如

2、下：A―100；B―110；C―0；D―11101；E－1010；F－1111；G－1011；H－11100。平均码长N＝∑PiNi＝0.4*1+0.28*3+0.23*4+0.09*5=2.61编码效率η＝H(X)/N=97.79%③各符号对应的码组如下：A―11；B―12；C―2；D―022；E－00；F－10；G－01；H－021。平均码长N＝∑PiNi＝0.4*1+2*0.51+3*0.09=1.69编码效率η＝H(X)/N=95.28%3．①含有1个“1”的个数为；不含有“1”的个数为；含有2个“1”的个数为；含

3、有3个“1”的个数为；所以，含有3个“1”或少于3个“1”的源符组个数为M=1+100+4950+161700=166751所需最小码长为，因为是二元码所以D＝2①首先求信源发出一源符组，有码字与之对应的概率。由题意，只有当源符组含有3个“1”或少于3个“1”时，才有码字与之对应。因此有码字的概率为无码字与之对应的概率为4．由图可知，该信道的转移概率矩阵如下Y=0Y=1Y=2Y=3X=01/31/301/3X=101/31/31/3X=21/301/31/3易知该信道是一个准对称信道，则当输入为等概分布时C=I(x=0,Y

4、)==因为W(0)=1/3[1/3+1/3]=2/9W(1)=1/3[1/3+1/3]=2/9W(3)=1/3[1/3+1/3+/13]=1/3所以=2/3log3/2bits当p(x=0)=1/2,p(x=1)=1/4,p(x=2)=1/4时:H(X)==3/2bits又因为H(Y)==1+1/6log6+1/3log3H(XY)==log6+1/2所以I(X,Y)=H(X)+H(Y)－H(XY)=7/6－1/2log35．该码的一致校验矩阵为H＝因为二元（7，4）码的纠错范围是7个一位错，所以各陪集首和与之相对应的S如

5、下：e=0000001――S=101e=0000010――S=111e=0000100――S=011e=0001000――S=110e=0010000――S=001e=0100000――S=010e=1000000――S=100当V＝0001011的时候，S＝100，对照最小距离译码准则与S和e之间的关系表，可知，e＝1000000。所以C＝e＋V＝10010116．令信道输入为xm时输出y的转移概率为PN(y

6、xm)，则最小错误概率译码实际上为最大后验概率译码其中对于给定的y和所有的m，其w(y)必然相同，所以就可化为比

7、较如下式子则当先验等概时Q(m)=Q(m’)上式进一步化为，此即最大似然译码。所以，当先验等概时，最小错误概率译码与最大似然译码是等价的。因为M＝2且输入等概，所以由题可知，当收到Y2判为X1时应为错，同理，收到Y1区间中任一序列，判为X2也为错。这样：当收到的序列属于Y3时无法判定为X1或X2，但此时必然有错误发生。所以，有错而不能判决的概率为：7．证：因为，所以：所以原命题得证。