朱雪龙《应用信息论基础》习题答案2.doc

《朱雪龙《应用信息论基础》习题答案2.doc》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、第二章习题参考答案99Innat2<勺bitb：+CF；1O§2"2bS，2.2证明:0/(X；rIZ)=H{XIZ)-H(XIYZ)=H(XZ)-H(Z)-H(XYZ)+H(YZ)=H(X)+H(ZIX)-H(Z)-H(XY)-H(ZIXY)+H(Y)+H(ZIY)=[H(X)+H(Y)-W(Xy)l+H(ZIX)-H(Z)-H(ZIXY)+H(ZIY)=I(X;Y)+H(ZIX)-H(Z)-H(ZIXY)+H(ZIY)

2、卩H(Z)>1+H(ZIXY)又OH(Z)<1,W(ZIXY)>0,故H(Z)=1,H(ZIXV)=0同理,可推出H(X)=l;H(Y)=l;H(XYZ)=H(XY)+H(ZIXY)=H(X)+H(Y)+H(ZIXY)=1+1+0=22.31)H(X)=0.918bit,H(Y)=0.918bit2222)H(XIY)=—bit,H(YIX)=—bit,H(XIZ)=—bit3)I(X;Y)=0.251bit,H(XYZ)=1.585bit2.4证明：(1)根据爛的可加性，可直接得到(2)0丫的值取自(al9a2,A如),/.H(Y)

3、

4、(X=O,Y=0,Z=0)=-P(X=1,Y=1,Z=0)4P(X=1,Y=1,Z=O)=-P(X=1,Y=0,Z=1)42.6解：给岀均匀分布0(x)=—-a

5、2)(3Wk)二P(X]・・・Xji有奇数个l)I(Xk_;XJX

6、…Xr+P(X1…Xji有偶数个1)I(X“XJX「・：Pg…X_2中有奇数个l)=-2P(X]…X-2中有偶数个1)=-2P(Xk」=llX]・・・X_2中有奇数个1)=

7、2P(Xk_]=()IX]・・・X—2中有奇数个1)=

8、2P(Xk=llX]…xk_2屮有奇数个1)=

9、2P(Xk=0IX]・・・Xk_2屮有奇数个1)=

10、(注意，4_j__41,则h(X)<0中有奇数个1)一2中有偶数个I)这里kWN-l)2P（Xk_]=llX]・・・Xk_2中有偶数个1）=-

11、厶P（Xk_]=0IX]・・・Xk_2中有偶数个1）=

12、P（Xk二1IX]…X-2屮有偶数个1）=

13、（注意，这里kWN—l）2P（Xk=OIX]…X-2中有偶数个1）=

14、2P（Xk_I=O,X严OIX]…X—中有奇数个1）=*P（X『O,XgIXrX」有奇数个I）詔P（X4,xmx「xj哨奇数个TP（X4,XgIXrX」有奇数个I）詔p（x『o,*严略7」卩有偶数个1）冷P（X『O,XgIXrX」有偶数个I）詔P（X4,xmx「xj「有偶数个I）詔P（X4,xg“・x」有偶数个X#综丄：I（X—；XklX

15、…Xk_2小有奇数个1）（3

16、WkWN—l）=H（Xk_1IXI-Xk_2'P有奇数个l）+H（XJX】・・・Xk_2p有奇数个1）—H（X」XkIX]…X」有奇数个1）=0I（X“XJX]…Xk_2中有偶数个1）=0・・・当3WkWN—1时,I（Xk_1;XkIXI-Xk_2）=0当k=N吋即I（Xn“XnIX

17、…XQ=H（Xn_1IX1-Xn_2）-H（Xn（X

18、…Xn_2,Xn）=1bit2.61)实例如2.5题2)考虑随机变量X=Y=Z的情况取P(X=O,Y=0,Z=0)=-P(X=1,Y=1,Z=1)=-22则I(X;YIZ)=0I(X;Y)=1满足I(

19、X;YIZ)