给学生的——习题讲评

《给学生的——习题讲评》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、数字通信系统主讲讲师：林福宏网电空间科学与技术研究所习题讲评作业讲评:第二次作业：已知两个二进制随机变量X和Y服从下列联合分布11PXY(==0)=PX(=0,Y=1)=,(PXY==1)=42试求：H（X）、H（Y）、H（X

2、Y）、H（Y

3、X）和H（X,Y）。2014/6/8网电空间科学与技术研究所2习题讲评由联合分布可得到边际分布以及联合分布为解：PX(0=)=∑PX(0=,Y)1=/2YPX(1=)1(=−=PX0)1/2=PY(=1)=∑PXY(,=1)=3/4XPY(0)1(1==−==PY)

4、1/4P(X=1,Y=0)=P(Y=0)-P(X=0,Y=0)=0因此H(X)=-P(X=0)logP(X=0)-P(X=1)logP(X=1)=1bit/符号222014/6/8网电空间科学与技术研究所3习题讲评H(Y)=-P(Y=0)logP(Y=0)-P(Y=1)logP(Y=1)=0.811bit/符号22PXY(,)H(X/Y)=E[-logP(X/Y)]=-E[log]22PY()PXY(,)=-∑∑PXY(,)log2XYPY()PY()=∑∑PXY(,)log2XYPXY(,)1/43/

5、43/4=1/4log++1/4log1/2log2221/41/41/2=0.689bit/符号2014/6/8网电空间科学与技术研究所4习题讲评H(Y/X)=E[-logP(Y/X)]=-E[logPXY(,)]22PX()PXY(,)=-∑∑PXY(,)log2XYPX()PX()=∑∑PXY(,)log2XYPXY(,)1/21/21/21/4log++1/4log1/2log=2221/41/41/2=1/2bit/符号H(X,Y)=H(Y)+H(X/Y)=H(X)+H(Y/X)=3/2bit

6、/符号2014/6/8网电空间科学与技术研究所5习题讲评设一信源由六个不同的独立符号组成：Xix1x2x3x4x5x6Pi1/21/41/321/81/321/16试求：１）信源符号熵H(x)=?２）若信源每秒发送1000个符号，求信源每秒传送的信息量应为多少？３）求仅传送x3时的信息量I(x3)=?４）若信源概率可变，求信源最大熵Hmax(X)=?2014/6/8网电空间科学与技术研究所6习题讲评(1)H(X)=-1/2log1/2-1/4log1/4-2/32log1/32222解：-1/8log1

7、/8-1/16log1/1622=31/16=1.9375bit/符号(2)R=1.9375bit/符号X1000符号/s=1937.5bpsb(3)I(x)=-logP=-log1/32=5bit/符号3232(4)H(X)=6(×-1/6log1/6)=log6bit/符号max222014/6/8网电空间科学与技术研究所7习题讲评第三次作业：二进制通信系统用符号“0”和“1”,由于存在失真,传输时会产生误码,用符号表示下列事件:u:一个“0”发出；u1:一个“1”发出；0v0:一个“0”收到；v1

8、：一个“1”收到。给定下列概率：p(u)=1/2,p(v/u)=3/4,p(v/u)=1/2求：000012014/6/8网电空间科学与技术研究所8习题讲评（1）已知发出一个0，收到符号后得到的信息量；（2）已知发出的符号，收到符号后得到的信息量；（3）知道发出的和收到的符号能得到的信息量；（4）已知收到的符号，被告知发出的符号得到的信息量。解:（1）可求出p(v1/u0)=1−p(v0/u0)=1/4H(V/u)=−p(v/u)logp(v/u)−p(v/u)logp(v/u)000200102101

9、3=H(,)=0.82比特/符号44（2）联合概率p(u0v0)=p(v0/u0)p(u0)=3/82014/6/8网电空间科学与技术研究所9习题讲评同理可得:p(u0v1)=1/8，p(u1v0)=1/4,p(u1v1)=1/411H(V/U)=−∑∑p(uivj)log2p(vj/ui)i=0j=0331111=−log−log−2×log222848442=0.91比特/符号（3）解法1：11H(UV)=−∑∑p(uivj)log2p(uivj)=1.91比特/符号i=1j=0解法2：Qp(u)=

10、p(u)=1/2,∴H(U)=1比特/符号01H(UV)=H(U)+H(V/U)=1+0.91=1.91比特/符号11p(v)=p(uv)=5/8,p(v)=p(uv)=3/8,（4）可求出0∑i01∑i1i=0i=02014/6/8网电空间科学与技术研究所10习题讲评35解法1：H(V)=H(,)=0.96比特/符号88H(U/V)=H(UV)−H(V)=1.91−0.96=0.95比特/符号解法2：利用贝叶斯公式得13×p(u)p(v/