信息论基础（微课版）-图书-人邮教育社区

特别说明

为帮助读者更好地掌握本书内容，编者在智慧树网建设了“信息论基础”智慧课程，围绕对建模分析、理解应用和编码实践等能力的培养要求，梳理了60个问题、111个知识点，整合了视频、课件等356项教学资源，以可视化方式呈现了核心概念间的关联，有助于读者构建系统化的认知框架、深化知识理解。
在智慧树网首页检索课程名称,或点击课程链接：https://wisdomh5.zhihuishu.com/course/index/1772571576491970560?courseId=1000107593&mapVersion=0，可进入“信息论基础”智慧课程界面。
若选择“学校引课（为学生选课）”，填写注册信息后，智慧树网会有运行服务专员跟您联系，沟通选课事宜；若选择“自我提升（为自己选课）”，可点击【去学习】按钮，注册后开始学习。

内容摘要

本书以离散通信系统为主要研究对象，探究信息论的基本概念、理论和方法。全书共6章。第1章介绍信息论的诞生、一般模型和香农信息的概念。第2章介绍信息熵、平均互信息量等概念，给出不确定性的基本度量方法。之后的4章分别研究离散信源、无失真信源编码、离散信道、有噪信道编码方面的内容。本书围绕平均自信息量、平均互信息量、平均符号熵、平均码长、信道容量、平均错误概率六大概念，由点及面、由浅入深，逐级展开对各种定理、性质和方法的研究；同时提供具有挑战性的习题和仿真实验，有助于读者巩固所学知识、提高应对复杂问题的能力，为相关领域的学习和工作奠定良好的基础。本书可作为高等院校电子信息工程、通信工程、电子科学与技术、计算机科学与技术等相关专业的教材，也可供人工智能、生物工程、自动控制等领域的科学工作者和工程技术人员参考。本书可作为高等院校信息与通信工程、电子信息工程、光电信息科学与工程、电子科学与技术、导航技术、电子对抗技术、计算机科学与技术等相关专业的本科生、研究生的教材，亦可供系统科学、管理科学、生物工程、交通运输工程等领域的工程技术人员参考。

章名目录
第一章绪论
第二章信息的统计度量
第三章离散信源
第四章无失真信源编码
第五章离散信道
第六章有噪信号编码
附录

详细目录
第1章　绪论
1.1　信息论的诞生　1
1.2　通信系统的一般模型　2
1.3　香农信息　3
1.4　习题　4
第2章　信息的统计度量
2.1　负对数：不确定性与信息量的桥梁　5
2.2　自信息量与条件自信息量　6
2.2.1　自信息量　7
2.2.2　条件自信息量　8
2.3　互信息量与条件互信息量　8
2.3.1　互信息量　8
2.3.2　条件互信息量　10
2.3.3　互信息量的性质　11
2.4　熵与条件熵　12
2.4.1　信息熵　12
2.4.2　条件熵　14
2.4.3　各类熵的关系　16
2.5　信息熵的性质　18
2.5.1　严格上凸性　18
2.5.2　非负性　21
2.5.3　扩展性　22
2.5.4　对称性　24
2.6　平均互信息量　24
2.6.1　基本概念　24
2.6.2　与各类熵的等式关系　26
2.6.3　应用：文本分类　28
2.7　平均互信息量的性质　30
2.7.1　上凸性　30
2.7.2　下凸性　32
2.7.3　互易性　34
2.7.4　极值性　35
2.7.5　非负性　35
2.8　习题　36
2.9　仿真实验　41
2.9.1　通信系统的信息变化　41
2.9.2　信息的凸性　42
第3章　离散信源
3.1　离散信源模型　44
3.2　平均符号熵　45
3.2.1　基本概念　45
3.2.2　变化机理　47
3.3　无记忆平稳信源　49
3.3.1　基本特点　49
3.3.2　平均符号熵　50
3.4　有记忆平稳信源　52
3.4.1　平稳性与条件熵　53
3.4.2　记忆性与条件熵　54
3.4.3　平均符号熵　56
3.5　马尔可夫信源　58
3.5.1　状态　58
3.5.2　状态转移　59
3.5.3　齐次性与遍历性　61
3.5.4　平稳分布　63
3.5.5　极限熵　65
3.6　习题　69
3.7　仿真实验　72
3.7.1　平稳信源的信息输出规律　72
3.7.2　马尔可夫信源的信息输出规律　73
第4章　无失真信源编码
4.1　信源编码　76
4.2　分组码　77
4.2.1　非奇异码　77
4.2.2　唯一可译码　77
4.2.3　即时码　81
4.2.4　码树　83
4.3　无失真信源编码定理　85
4.3.1　平均码长　86
4.3.2　编码问题　87
4.3.3　扩展信源编码　89
4.4　霍夫曼编码　92
4.4.1　最佳二元码树　92
4.4.2　二元霍夫曼编码　95
4.4.3　r元霍夫曼编码　97
4.5　习题　102
4.6　仿真实验　106
4.6.1　基于霍夫曼编码的文本数据压缩　106
4.6.2　基于霍夫曼编码的图像压缩　106
第5章　离散信道
5.1　离散信道模型　108
5.1.1　离散信道矩阵　109
5.1.2　离散无记忆信道的平均互信息量　111
5.1.3　离散有记忆信道的平均互信息量　115
5.2　信道容量　117
5.2.1　基本概念　117
5.2.2　通用确定方法　119
5.3　准对称无记忆信道　122
5.3.1　基本概念　123
5.3.2　平均互信息量　124
5.3.3　信道容量　126
5.4　独立级联信道　128
5.4.1　基本概念　128
5.4.2　平均互信息量　130
5.4.3　信息不增定理　131
5.4.4　最佳级联　133
5.5　独立并联信道　135
5.5.1　基本概念　135
5.5.2　平均互信息量　137
5.5.3　信道容量　140
5.6　习题　142
5.7　仿真实验　146
5.7.1　信源记忆性对信息传输性能的影响　146
5.7.2　级联信道的信息传输特性　148
第6章　有噪信道编码
6.1　有噪信道译码方法　151
6.1.1　译码规则　151
6.1.2　平均错误概率　153
6.1.3　最大似然译码准则　156
6.1.4　汉明距离与信道译码　158
6.2　有噪信道编码方法　160
6.2.1　简单重复编码　161
6.2.2　(n,k)线性编码　165
6.2.3　编码方法对比　167
6.3　有噪信道编码定理　168
6.3.1　打字机信道　168
6.3.2　随机编码　169
6.3.3　联合典型序列译码　170
6.3.4　有噪信道编码定理概述　172
6.4　习题　173
6.5　仿真实验　177
6.5.1　通信系统的“可靠性”与“有效性”　177
6.5.2　有噪信道编码与最佳信道译码　178
附录
附录A　等式证明之“无中生有”　180
附录B　不等式证明之“对数函数线性化”　181
附录C　联合熵的链式关系　182
附录D　条件熵的不增性　183
附录E　齐次遍历马尔可夫信源的收敛性　185
附录F　克拉夫特-麦克米伦不等式　188
附录G　香农编码　191
附录H　费诺编码　193
附录 I　高斯信道容量　195
附录J　信息不增定理　197
附录K　和信道　199
附录L　费诺不等式　203
附录M　典型序列　205
附录N　联合典型序列　208
附录O　有噪信道编码定理　211
附录P　有噪信道编码逆定理　214

读者评论

赶紧抢沙发哦！

我要评论

出版信息

书　　名：信息论基础（微课版）
执行编辑：本书的内容有任何问题，请联系徐柏杨
出版日期：2025-09-01
书　　号：978-7-115-66362-7
作　　者： 于泽郭宇鲲孙兵
定　　价：56.00 元
页　　数：215
印刷方式：黑白印刷
开　　本：16开
出版状态：上市销售

作者介绍

于泽，北京航空航天大学电子信息工程学院教授、博士生导师、空天信息系主任；长期从事合成孔径雷达成像和图像质量提升方面的教学和科研工作，主讲“信息论基础”“数字信号处理”等课程；主持国家自然基金面上项目等国家级科研项目20余项；发表论文80余篇，撰写学术专著1部、教材2本，授权国家发明专利20余项，获批软件著作权10余项；获全国高校电子信息类专业青年教师授课竞赛一等奖1项、省部级科技进步一等奖1项、省部级科技进步二等奖2项。