信道容量知识总结

《信道容量知识总结》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、信道容量是信道的一个参数，反映了信道所能传输的最大信息量，其大小与信源无关。对不同的输入概率分布，互信息一定存在最大值。我们将这个最大值定义为信道的容量。一但转移概率矩阵确定以后，信道容量也完全确定了。尽管信道容量的定义涉及到输入概率分布，但信道容量的数值与输入概率分布无关。我们将不同的输入概率分布称为试验信源，对不同的试验信源，互信息也不同。其中必有一个试验信源使互信息达到最大。这个最大值就是信道容量。　　信道容量有时也表示为单位时间内可传输的二进制位的位数（称信道的数据传输速率，位速率），以位/秒（b/s）形式予以

2、表示，简记为bps。通信的目的是为了获得信息，为度量信息的多少（信息量），我们用到了熵这个概念。在信号通过信道传输的过程中，我们涉及到了两个熵，发射端处信源熵——即发端信源的不确定度，接收端处在接收信号条件下的发端信源熵——即在接收信号条件下发端信源的不确定度。接收到了信号，不确定度小了，我们也就在一定程度上消除了发端信源的不确定性，也就是在一定程度上获得了发端信源的信息，这部分信息的获取是通过信道传输信号带来的。如果在通信的过程中熵不能够减小（不确定度减小）的话，也就没有通信的必要了。最理想的情况就是在接收信号条件下

3、信源熵变为0（不确定度完全消失），这时，发端信息完全得到。　　通信信道，发端X，收端Y。从信息传输的角度看，通过信道传输了I(X;Y)=H(X)-H(X

4、Y),(接收Y前后对于X的不确定度的变化)。I该值与两个概率有关，p(x),p(y

5、x)，特定信道转移概率一定，那么在所有p(x)分布中，maxI(X;Y)就是该信道的信道容量C(互信息的上凸性）。信道容量（Channelcapacity，又译通道容量）的单位为比特每秒、奈特每秒等等。[1][2]在电机领域、计算机科学领域、消息理论中，信道容量是指在一个通信信道中能够

6、可靠地传送信息时可达至的最大速率上限。根据有噪信道编码定理，一个已知通道的信道容量，则是指在一个有限的传送速率中可达到任意小的错误率。香农在第二次世界大战期间发展出信息论，为信道容量提了定义，并且提供了计算信道容量的数学模型。香农指出，信道容量是信道的输入与输出的互信息量的最大值，这一最大取值由输入信号的概率分布决定。[3]X代表已传送信号的随机变量空间，Y代表已收到信号的随机变量空间。代表已知X的情况下Y的条件机率。我们先把通道的统计特性当作已知，pY

7、X(y

8、x)就是通道的统计特性。而X与Y的分布性质：联合分布：边

9、缘分布：信道容量-正文 　　信道能无错误传送的最大信息率。对于只有一个信源和一个信宿的单用户信道，它是一个数，单位是比特每秒或比特每符号。它代表每秒或每个信道符号能传送的最大信息量，或者说小于这个数的信息率必能在此信道中无错误地传送。对于多用户信道，当信源和信宿都是两个时,它是平面上的一条封闭线,如图中的OC1ABC2O。坐标R1和R2分别是两个信源所能传送的信息率,也就是R1和R2落在这封闭线内部时能无错误地被传送。当有m个信源和信宿时，信道容量将是m维空间中一个凸区域的外界“面”。信道容量　　单用户信道容量 　信道

10、是由输入集A、输出集B和条件概率P(y│x)，y∈B,x∈A所规定的。当B是离散集时，归一性要求就是当B是连续集时,P(y│x)应理解为条件概率密度，上式就成为积分形式。如A和B都是离散集，信道所传送的信息率（每符号）就是输出符号和输入符号之间的互信息互信息与P(y│x)有关，也与输入符号的概率P(x)有关，后者可由改变编码器来变动。若能改变P(x)使I(X;Y)最大，就能充分利用信道传输信息的能力，这个最大值就称为单用户信道容量C，即式中∑为所有允许的输入符号概率分布的集。　　当A或B是连续集时，相应的概率应理解为概

11、率密度，求和号应改为积分，其他都相仿。　　多用户信道容量 　多用户信道容量问题要复杂一些。以二址接入信道为例，这种信道有两个输入X2∈A1和X2∈A2，分别与两个信源联结,发送信息率分别为R1和R2；有一个输出Y,用它去提取这两个信源的信息。若信道的条件概率为P(y│x1,x2)，则式中I(X1;Y│X2)为条件互信息，就是当X2已确知时从Y中获得的关于X1的信息；I（X2;Y│X1）的意义相仿；I(X1,X2;Y)为无条件互信息，就是从Y中获得的关于X1和X2的信息。E1和E2分别为所有允许的输入符号的概率分布P1(

12、x1)和P2(x2)的集。　　当X1和X2相互独立时,这些条件互信息要比相应的无条件互信息大,因此两个信息率R1和R2的上界必为上面三个式子所限制。若调整P1(x1)和P2(x2)能使这些互信息都达到最大，就得到式中的C1，C2，C0。因此R1和R2的范围将如图中的一个截角四边形区域,其外围封闭线就是二址接入信道的容量上界。m址接