信息理论与编码学习指导-图书-人邮教育社区

内容摘要

　　本书是学习和掌握信息理论与编码的教学指导书，与人民邮电出版社出版的、吕锋主编的《信息理论与编码(第2版)》相配套，也可作为独立的学习辅导书和其他版本的同类教材配套使用。
　　全书包含了香农信息理论的核心内容，以及网络信息论基础和密码学基础，共8章。每章由学习要点、教材习题详解、测试题和实验题组成。可以帮助读者全面认识和快速查找信息理论的基本概念和重要知识点，通过练习、测试和实验环节进一步理解信息理论的分析思路、基本定理以及重要结论。
　　本书对概念的梳理条理性强，对习题和测试题的解答详尽，所设计的实验题能使读者对信息理论有更加直观的认识。书中的习题和测试题全面覆盖了信息理论的基本概念，题型多样且难度适中。此外，还安排了部分英文题目供读者了解信息理论的外文表述。
　　本书可供高等学校通信类、电子工程类、信息类专业的师生使用，也可作为有关科研人员学习信息理论的辅导书。

目　录

第 1章　绪论　1
1.1　基本要求　1
1.2　学习要点　1
1.2.1　信息的基本概念　1
1.2.2　信息论的研究对象　2
1.2.3　信息论的发展历程　3
1.2.4　信息论的主要研究内容　4
1.3　教材习题及参考答案　5
1.4　测验题及参考答案　7
1.4.1　测验题　7
1.4.2　测验题参考答案　8

第 2章　信息的度量　9
2.1　基本要求　9
2.2　学习要点　9
2.2.1　信源的分类　9
2.2.2　信源的数学模型　10
2.2.3　离散信源的自信息　11
2.2.4　离散信源的互信息量及其性质　12
2.2.5　离散信源熵　12
2.2.6　联合熵和条件熵　14
2.2.7　各类熵之间的关系　14
2.2.8　平均互信息量及其性质　14
2.2.9　离散无记忆扩展信源的熵　15
2.2.10　离散有记忆信源的熵　15
2.2.11　马尔可夫信源的信息熵　16
2.2.12　离散信源的信息率和信息含量效率　16
2.2.13　连续信源的微分熵和平均互信息量　17
2.3　教材习题及参考答案　18
2.4　测验题及参考答案　46
2.4.1　测验题　46
2.4.2　测验题参考答案　48
2.5　实验题及参考程序　54
2.5.1　实验题　54
2.5.2　实验题参考程序　54

第3章　信道模型和信道容量　58
3.1　基本要求　58
3.2　学习要点　58
3.2.1　信道的分类　58
3.2.2　信道的数学模型　59
3.2.3　信道的疑义度、散布度和平均互信息　60
3.2.4　信道容量　61
3.2.5　信道的组合　64
3.2.6　信道剩余度　65
3.2.7　连续信道的信道容量　65
3.2.8　波形信道及其信道容量　66
3.3　教材习题及参考答案　67
3.4　测验题及参考答案　86
3.4.1　测验题　86
3.4.2　测验题参考答案　89
3.5　实验题及参考程序　95
3.5.1　实验题　95
3.5.2　实验题参考程序　95

第4章　离散无记忆信源无失真编码　98
4.1　基本要求　98
4.2　学习要点　98
4.2.1　信源编码的基本术语　98
4.2.2　信源编码的基本概念　99
4.2.3　定长无失真编码定理　99
4.2.4　无失真变长编码定理(香农第一定理)　100
4.2.5　变长编码方法　100
4.2.6　几种实用的无失真信源编码　101
4.3　教材习题及参考答案　105
4.4　测验题及参考答案　119
4.4.1　测验题　119
4.4.2　测验题参考答案　122
4.5　实验题及参考程序　133
4.5.1　实验题　133
4.5.2　实验题参考程序　133

第5章　有噪信道编码　137
5.1　基本要求　137
5.2　学习要点　137
5.2.1　信道译码函数与平均差错率　137
5.2.2　两种典型的译码规则　138
5.2.3　信道编码对平均差错率和信息率的影响　139
5.2.4　**小汉明距离译码规则　141
5.2.5　有噪信道编码定理(香农第二定理)　142
5.2.6　线性分组码　142
5.3　教材习题及参考答案　143
5.4　测验题及参考答案　152
5.4.1　测验题　152
5.4.2　测验题参考答案　154
5.5　实验题及参考程序　158
5.5.1　实验题　158
5.5.2　实验题参考程序　158

第6章　限失真信源编码　162
6.1　基本要求　162
6.2　学习要点　162
6.2.1　失真测度　162
6.2.2　信息率失真函数及其性质　163
6.2.3　限失真信源编码定理　165
6.2.4　信息率失真函数的计算　166
6.3　教材习题及参考答案　168
6.4　测验题及参考答案　176
6.4.1　测验题　176
6.4.2　测验题参考答案　178
6.5　实验题及参考程序　182
6.5.1　实验题　182
6.5.2　实验题参考程序　183

第7章　网络信息论基础　185
7.1　基本要求　185
7.2　学习要点　185
7.2.1　网络信道的分类　185
7.2.2　网络信源编码模型　186
7.2.3　多随机变量联合典型序列　187
7.2.4　相关信源编码定理　187
7.2.5　多址接入信道　187
7.2.6　高斯多址接入信道　188
7.2.7　广播信道　188
7.2.8　中继信道　189
7.2.9　具有边信息的信源编码定理　189
7.3　教材习题及参考答案　190
7.4　测验题及参考答案　196
7.4.1　测验题　196
7.4.2　测验题参考答案　198

第8章　信息安全与密码学基础　203
8.1　基本要求　203
8.2　学习要点　203
8.2.1　信息安全的要素　203
8.2.2　安全服务功能　203
8.2.3　网络安全对策　204
8.2.4　密码学基本术语　204
8.2.5　代替密码　204
8.2.6　密码学中的信息理论　205
8.2.7　数据加密标准DES　206
8.2.8　RSA公开密钥算法　206
8.2.9　数字签名　207
8.3　教材习题及参考答案　207
8.4　测验题及参考答案　211
8.4.1　测验题　211
8.4.2　测验题参考答案　212

参考文献　214