信息论 信道容量 .ppt

C=lim=logWmaxT2006-10-1871第三章信道容量典型无扰离散信道的信道容量在T时间里构成的消息总数N(T)为式中Wmax为差分方程的特征方程的最大正实根。因此，求出这个最大正实根，也就求出了C。采用迭代法，略去中间过程，可解得，Wmax=1.453，故有 C=log1.453=0.539比特/符号时间 N(T)=N1(T)+N2(T)(5.14)上式又是一个线性差分方程，由这个差分方程，可得 logN(T) (5.15) T→∞第28页，课件共83页，创作于2023年2月§3.1信道的数学模型和分类§3.2单符号离散信道§3.3多符号离散信道§3.4多用户信道§3.5信道编码定理第29页，课件共83页，创作于2023年2月§3.3多符号离散信道§3.3.1多符号离散信道的数学模型§3.3.2离散无记忆信道的N次扩展信道和独立并联信道的信道容量第30页，课件共83页，创作于2023年2月多符号离散信道多符号信源通过离散信道传输形成多符号离散信道。第31页，课件共83页，创作于2023年2月§3.3.1多符号离散信道的数学模型输入输出第32页，课件共83页，创作于2023年2月第33页，课件共83页，创作于2023年2月§3.3多符号离散信道§3.3.1多符号离散信道的数学模型

§3.3.2离散无记忆信道的N次扩展信道和独立并联信道的信道容量第34页，课件共83页，创作于2023年2月§3.3.2离散无记忆信道的N次扩展信道和独立并联信道的信道容量无记忆：YK仅与XK有关第35页，课件共83页，创作于2023年2月1YNY第36页，课件共83页，创作于2023年2月第37页，课件共83页，创作于2023年2月第38页，课件共83页，创作于2023年2月(a)?????=====-￡\￡-=-=NKKKNKKNKKNNKKKNNKKKXYHYHYXIYHYYYHXYHYYYHXYHYHYXI111211211)/()();()()..()/()..()/()();(rrrrr第39页，课件共83页，创作于2023年2月第40页，课件共83页，创作于2023年2月I(X;Y)=∑I(Xkk)=NI(X;Y)30单符号离散无记忆信道与其N次扩展信道信道容量之间的关系由于离散无记忆信源的N次扩展信源中的随机变量都取自同一符号集Xk∈{a1a2…aN}(k=1,2,…,N)，并具有相同的概率分布，而且都通过同一个离散无记忆信道[XP(Y/X)Y]，信道输出端随机变量序列中的随机变量Yk(k=1,2,…,N)也取自同一符号集并具有相同的概率分布，而且相互统计独立。所以I(Xk;Yk)=I(X;Y);Y Nk=13.3.2离散无记忆信道和独立并联信道的信道容量第41页，课件共83页，创作于2023年2月结论：离散无记忆信道的N次扩展信道，如果信源也是离散无记忆信源的N次扩展信源，则信道总的平均互信息是单符号离散无记忆信道平均互信息的N倍。第42页，课件共83页，创作于2023年2月第三章信道容量2006-10-2331结论的说明：因为离散无记忆信道N次扩展信道可以用N个单符号离散信道来等效，这N个信道之间没有任何关联关系，若输入端的N个随机变量之间也没有任何关联关系的话，就相当于N个毫不相干的单符号离散信道在分别传送各自的信息，所以在扩展信道的输出端得到的平均信息量必然是单个信道的N倍。用C表示离散无记忆信道容量，用CN表示其扩展信道容量，CN=NC3.3多符号离散信道3.3.2离散无记忆信道和独立并联信道的信道容量第43页，课件共83页，创作于2023年2月+CN=∑Ck第三章信道容量2006-10-2332独立并联信道独立并联信道/独立并列/独立平行/积信道：输入和输出随机序列中的各随机变量取值于不同的符号集，就构成3.3多