《专题聊城大学》PPT课件

《《专题聊城大学》PPT课件》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第三章离散信道及其信道容量第一节信道的数学模型及分类第二节平均互信息及平均条件互信息第三节平均互信息的特性第四节信道容量及其一般计算方法第五节离散无记忆扩展信道及其信道容量第六节信源与信道的匹配第一节信道的数学模型及分类1、信道的分类：根据信道用户的多少，可分为：（1）单用户信道：只有一个输入端和一个输出端，单向通信（2）多用户信道：至少有一端有两个以上的用户，双向通信根据输入端和输出端的关联：（1）无反馈信道:输出端信号对输入端信号无影响、无作用（2）有反馈信道：信道输出端的信号反馈到输入端，对输入端的信号起作用，影响输入端信号发生变化根据信道参数与时

2、间的关系：（1）固定参数信道：信道的参数不随时间变换而改变（2）时变参数信道：信道的参数随时间变换而变换根据输入输出信号的特点：（1）离散信道：输入和输出的随机序列的取值都是离散的信道（2）连续信道：输入和输出的随机序列的取值都是连续的信道（3）半离散半连续信道：输入序列是离散型的但相应的输出序列是连续的信道，或者相反。（4）波形信道：信道的输入输出都是时间上连续的随机信号P(y/X)XY根据这一模型，可对信道分类如下：设离散信道的输入为一个随机变量X，相应的输出的随机变量为Y，如图所示：规定一个离散信道应有三个参数：输入符号集：X={x1，x2，…，}

3、输出符号集：Y={y1，y2，…，}信道转移概率：P(Y/X)={p(y1/x1),p(y2/x1),…p(/x1),……p(y1/)…p(/)}2、离散信道的数学模型描述输入信号和输出信号之间的统计依赖关系，反映信道的统计特性（1）无干扰（无噪）信道：输入信号与输出信号有一一对应关系（3）有干扰有记忆信道：这是最一般的信道，信道中不仅有干扰，并且某一瞬间的输出符号不仅与当前时刻的输入有关，而且还与其他时刻信道输入符号及输出符号有关。（2）有干扰无记忆信道：输入与输出无一一对应关系，输出只与当前输入有关；单符号离散信道的输入变量为X，取值于输出变量为Y，

4、取值于。并有条件概率条件概率被称为信道的传递概率或转移概率。一般简单的单符号离散信道的数学模型可以用概率空间[X,p(y

5、x),Y]来描述。3、单符号离散信道的数学模型XY[P]=y1y2…ymx1p(y1/x1)p(y2/x1)…p(ym/x1)x2p(y1/x2)p(y2/x2)…p(ym/x2)……………xnp(y1/xn)p(y2/xn)…p(ym/xn)表示成矩阵形式：X={0,1};Y={0,1};p(0/0)=p(1/1)=1-p;p(0/1)=p(1/0)=p;[P]=0101-pp1p1-p01-p0pp11-p1[例1]二元对称信道（

6、BSC）X={0,1};Y={0,2,1}[P]=02101－pp010p1-p01-p0pp11-p12[例2]二元删除信道（BEC）[P]=y1y2…ymx1p(y1/x1)p(y2/x1)…p(ym/x1)x2p(y1/x2)p(y2/x2)…p(ym/x2)……………xnp(y1/xn)p(y2/xn)…p(ym/xn)由此可见，一般单符号离散信道的传递概率可以用矩阵表示为了表述简便，可以写成4.一般单符号离散信道的一些概率关系（1）联合概率其中称为前向概率，描述信道的噪声特性称为后向概率，有时也把称为先验概率，把称为后验概率（2）输出符号的概率

7、（3）后验概率表明输出端收到任一符号，必定是输入端某一符号输入所致1、信道疑义度这是收到后关于X的后验熵，表示收到后关于输入符号的信息测度这个条件熵称为信道疑义度，表示输出端在收到一个符号后，对输入符号尚存的不确定性，这是由信道干扰造成的，如果没有干扰，H(X/Y)=0,一般情括下H(X/Y)小于H(X)，说明经过信道传输，总能消除一些信源的不确定性，从而获得一些信息。第二节平均互信息及平均条件互信息I(X;Y)=H(X)-H(X/Y)2、平均互信息其中H(X)表示传输前信源的不确定性，而H(X/Y)表示收到一个符号后，对信源尚存的不确定性，所以二者之差

8、即为通过信道消除的不确定性，信道传递的信息量。（1）平均互信息（2）互信息互信息I（x;y)是代表收到某消息y后获得关于某事件x的信息量。即注意：互信息可取正值，也可取负值和0。对于平均互信息永远不会取负值I(X;Y)=H(X)-H(X/Y)=H(X)+H(Y)-H(XY)=H(Y)-H(Y/X)（3）互信息与其他的熵之间的关系也可以得到：H(XY)=H(X)+H(Y/X)=H(Y)+H(X/Y)互信息I(X;Y)也表示输出端H(Y)的不确定性和已知X的条件下关于Y的不确定性之差，也等于发送前后关于Y的不确定性之差。互信息与各类熵之间的关系可以用维拉图表

9、示：H(X)H(Y)H(X

10、Y)H(Y

11、X)I(X;Y)H(X,Y)ABA∩B’