本书是"十二五”普通高等教育本科规划教材,且为教育部评选的"2008年度普通高等教育精品教材”。 本书系统地论述了香农信息论基本理论及某些应用问题,基本覆盖了信息论的各个方面的内容。内容包括:信息的定义和度量;各类离散信源和连续信源的信息熵;有记忆、无记忆、离散和连续信道的信道容量;香农信息论的三个基本定理:无失真信源编码定理、限失真信源编码定理和信道编码定理;网络信息理论及保密系统的信息理论。本书还介绍了无失真数据压缩(即无失真信源编码)的实用的编码算法与方法,以及信道纠错编码的基本内容和分析方法;后简要地介绍了信息论与热力学、光学、统计学、生物学和医学等其他学科交叉结合的应用内容。尤其是新增第13章,介绍量子力学与信息理论交叉结合而飞速发展起来,又**诱人前景的量子信息科学。

目录 第1章绪论 11信息的概念 12信息论研究的对象、目的和内容 13信息论发展简史与信息科学 第2章离散信源及其信息测度 21信源的数学模型及分类 22离散信源的信息熵 221自信息 222信息熵 23信息熵的基本性质 24信息熵的性定理 25离散无记忆的扩展信源 26离散平稳信源 261离散平稳信源的数学定义 262二维离散平稳信源及其信息熵 263离散平稳信源的极限熵 27马尔可夫信源 271马尔可夫信源和m阶马尔可夫 信源的定义 272马尔可���信源和m阶马尔可夫 信源的信息熵 28信源剩余度与自然语言的熵 29意义信息和加权熵 小结 习题 第3章离散信道及其信道容量 31信道的数学模型及分类 311信道的分类 312离散信道的数学模型 313单符号离散信道的数学模型 32平均互信息及平均条件互信息 321信道疑义度 322平均互信息 323平均条件互信息 33平均互信息的特性 34信道容量及其一般计算方法 341离散无噪信道的信道容量 342对称离散信道的信道容量 343准对称信道的信道容量 344一般离散信道的信道容量 35信道容量的迭代算法 351信道容量的迭代算法 352信道容量迭代算法的收敛性 36离散无记忆扩展信道及其信道容量 37独立并联信道及其信道容量 38串联信道的互信息和数据处理定理 39信源与信道的匹配 小结 习题 第4章波形信源和波形信道 41波形信源的统计特性和离散化 42连续信源和波形信源的信息测度 421连续信源的差熵 422连续平稳信源和波形信源的差熵 423两种特殊连续信源的差熵 43连续信源熵的性质及差熵定理 431差熵的性质 432具有差熵的连续信源 44连续信源熵的变换 441坐标变换后概率密度函数的变化 442坐标变换后差熵的变化 45熵功率 46连续信道和波形信道的分类 461按信道输入和输出的 统计特性分类 462按噪声的统计特性分类 463按噪声对信号的作用功能分类 47连续信道和波形信道的信息传输率 471基本连续信道的平均互信息 472多维连续信道的平均互信息 473波形信道的信息传输率 474连续信道平均互信息的特性 48连续信道和波形信道的信道容量 481单符号高斯加性信道 482单符号非高斯加性信道 483多维无记忆高斯加性连续信道 484多维有记忆高斯加性连续信道 485限带高斯白噪声加性波形信道 486有色高斯加性波形信道 487香农公式的重要实际指导意义 小结 习题 第5章无失真信源编码定理 51编码器 52等长码 53渐近等分割性和ε典型序列 54等长信源编码定理 55变长码 551可译变长码与即时码 552即时码的树图构造法 553克拉夫特(Kraft)不等式 554可译变长码的判断法 56变长信源编码定理 小结 习题 第6章有噪信道编码定理 61错误概率和译码规则 62错误概率与编码方法 63联合ε典型序列 64有噪信道编码定理 65联合信源信道编码定理 小结 习题 第7章保真度准则下的信源编码 71失真度和平均失真度 711失真度 712平均失真度 72信息率失真函数及其性质 721信息率失真函数 722信息率失真函数的性质 73二元信源和离散对称信源 的R(D)函数 731二元对称信源的R(D)函数 732离散对称信源的R(D)函数 74信息率失真函数的参量表述及其计算 75信息率失真函数的迭代算法 76连续信源的信息率失真函数 761连续信源的信息率失真函数 762高斯信源的信息率失真函数 763连续信源R(D)函数的参量 表述及其计算 77保真度准则下的信源编码定理 771失真ε典型序列 772保真度准则下信源编码定理 的证明 78联合有失真信源信道编码定理 79限失真信源编码定理的实用意义 小结 习题 第8章无失真的信源编码 81霍夫曼(Huffman)码 811二元霍夫曼码 812r元霍夫曼码 813霍夫曼码的性 82费诺(Fano)码 83香农-费诺-埃利斯码 84游程编码和MH编码 841游程编码 842MH编码 85算术编码 86字典码 861LZ77编码算法 862LZ78编码算法 863LZW编码算法 864LZ码复杂度和性能分析 小结 习题 第9章信道的纠错编码 91差错控制的基本形式 92纠错码分类及基本概念 921纠错码分类 922纠错码的基本概念及其 纠错能力 93线性分组码 931一致校验矩阵和生成矩阵 932伴随式及标准阵列译码 933汉明码 94循环码 941循环码结构及其多项式描述 942循环码的生成多项式和 生成矩阵 943循环码的校验多项式和伴随式 944循环码的编、译码器 95卷积码 951卷积码的解析表示 952卷积码的图解表示 953卷积码的维特比译码 小结 习题 第10章网络信息论 101通信网信道的分类 102多个随机变量的联合典型序列 103相关信源编码 104多址接入信道 1041离散多址接入信道 1042多址接入高斯噪声信道 105相关信源和多址接入信道 1051相关信源和多址接入 信道的对偶性 1052相关信源的多址接入信道 106广播信道 107中继信道 108具有边信息的信源编码 109具有边信息的数据压缩 小结 习题 第11章保密系统的基本信息理论 111保密学的基本概念 112保密系统的数学模型 113古典密码体制 1131单表密码 1132移位代换密码 1133乘数密码 1134固定周期d的位移置换 1135多表代换密码 114完全保密性 115理论保密性 116实际保密性 小结 习题 第12章信息论与其他学科的关系和 应用 121信息熵与热力学熵 122信息论与光学 1221光学信息量 1222光量子信道的信道容量 1223熵光学图像恢复 123熵原理与谱估计 1231高斯随机过程的熵率 1232伯格的熵定理 124信息论与生命科学 1241DNA到蛋白质的通信系统 1242信息系数与信息分类 1243医学中的信息分析 小结 第13章量子信息科学简介 131量子力学的基本概念 1311波粒二重性和光量子 1312波函数和量子态 1313量子态叠加原理 1314量子测量与量子态塌缩 1315测不准原理 1316量子纠缠和纠缠态 1317量子隐形传态 132量子通信与量子保密通信 1321量子通信的基本概念 1322量子通信的优越性 1323量子通信密钥分发和量子 隐形传态 1324量子通信的发展现状与前景 133量子信息论 1331量子比特 1332量子信息中的冯·诺依曼熵 1333量子信源编码定理 1334量子信道的信道编码 附录 附录A凸函数和詹森不等式 附录B马尔可夫链 B1马尔可夫链的定义 B2转移概率和转移矩阵 B3各态历经定理 附录C熵函数的函数表 附录D所用符号及编写说明 参考书目和文献