第二章单符号离散信道

《第二章单符号离散信道》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、2002CopyrightEELab508第二章单符号离散信道2.1设信源通过一信道，信道的输出随机变量Y的符号集,信道的矩阵：试求：(1)信源X中的符号a1和a2分别含有的自信息量；(2)收到消息Y＝b1，Y＝b2后，获得关于a1、a2的互交信息量：I(a1;b1)、I(a1;b2)、I(a2;b1)、I(a2;b2)；(3)信源X和信宿Y的信息熵；(4)信道疑义度H(X/Y)和噪声熵H(Y/X)；(5)接收到消息Y后获得的平均互交信息量I(X;Y)。解:©H.F.2002CopyrightEELab5082.2某二进制对称信道，其信道矩阵是：设该信道以1500个二进

2、制符号/秒的速度传输输入符号。现有一消息序列共有14000个二进制符号，并设在这消息中p(0)=p(1)=0.5。问从消息传输的角度来考虑，10秒钟内能否将这消息序列无失真的传送完。解:2.3有两个二元随机变量X和Y，它们的联合概率为P[X=0,Y=0]=1/8，P[X=0,Y=1]=3/8，P[X=1,Y=1]=1/8，P[X=1,Y=0]=3/8。定义另一随机变量Z=XY，试计算：(1)H(X),H(Y),H(Z),H(XZ),H(YZ),H(XYZ);(2)H(X/Y),H(Y/X),H(X/Z),H(Z/X),H(Y/Z),H(Z/Y),H(X/YZ),H(Y/

3、XZ),H(Z/XY);(3)I(X;Y),I(X;Z),I(Y;Z),I(X;Y/Z),I(Y;Z/X),I(X;Z/Y)。解:©H.F.2002CopyrightEELab508©H.F.2002CopyrightEELab5082.4已知信源X的信源空间为某信道的信道矩阵为：b1b2b3b4试求：(1)“输入a3，输出b2的概率”；(2)“输出b4的概率”；(3)“收到b3条件下推测输入a2”的概率。解：2.5已知从符号B中获取关于符号A的信息量是1比特，当符号A的先验概率P(A)为下列各值时，分别计算收到B后测A的后验概率应是多少。(1)P(A)=10-2；(2

4、)P(A)=1/32；(3)P(A)=0.5。©H.F.2002CopyrightEELab508解：2.6某信源发出8种消息，它们的先验概率以及相应的码字如下表所列。以a4为例，试求：消息a1a2a3a4a5a6a7a8概率1/41/41/81/81/161/161/161/16码字000001010011100101110111(1)在W4＝011中，接到第一个码字“0”后获得关于a4的信息量I(a4;0)；(2)在收到“0”的前提下，从第二个码字符号“1”中获取关于a4的信息量I(a4;1/0)；(3)在收到“01”的前提下，从第三个码字符号“1”中获取关于a4的

5、信息量I(a4;1/01)；(4)从码字W4＝011中获取关于a4的信息量I(a4;011)。解：2.13把n个二进制对称信道串接起来，每个二进制对称信道的错误传输概率为p(0

6、矩阵为：(1)若p(0)=2/3，p(1)=1/3，求H(X)，H(X/Y)，H(Y/X)和I(X;Y)；(2)求该信道的信道容量及其达到的输入概率分布。©H.F.2002CopyrightEELab508解：2.20设某信道的信道矩阵为试求：(1)该信道的信道容量C；(2)I(a3;Y)；(3)I(a2;Y)。解:©H.F.2002CopyrightEELab5082.21设某信道的信道矩阵为试求：(1)该信道的信道容量C；(2)I(a1;Y)；(3)I(a2;Y)。解:2.22设某信道的信道矩阵为试该信道的信道容量C；解:2.23求下列二个信道的信道容量，并加以比较

7、(其中0