第 一章　绪论　1
1.1　信息的基本概念　1
1.1.1　信息概念的复杂性　1
1.1.2　信息的定义　3
1.2　信息论的研究目的和内容　4
1.2.1　信息传输基本模型　4
1.2.2　信息论研究的内容　6
1.2.3　目前信息论的主要研究成果　7
1.3　信息论的发展历程与应用概述　9
1.3.1　信息论发展简史　9
1.3.2　信息论的应用　12
习题　15

第 二章　信息的度量　16
2.1　信源模型　16
2.2　信息的描述　17
2.3　不确定性与信息　18
2.3.1　自信息量　19
2.3.2　联合自信息量　19
2.3.3　条件自信息量　20
2.3.4　自信息量的性质和相互关系　21
2.3.5　互信息量及其性质　22
2.4　离散随机变量的(统计)平均不确定性度量——离散熵　25
2.4.1　离散熵　25
2.4.2　离散熵的性质　27
2.5　联合熵和条件熵　29
2.5.1　联合熵　30
2.5.2　条件熵　30
2.5.3　各类熵之间的关系　30
2.6　平均互信息量及其性质　31
2.7　离散无记忆信源的扩展　32
2.8　离散有记忆信源的熵　34
2.9　马尔可夫信源的信息熵　34
2.9.1　马尔可夫链　35
2.9.2　马尔可夫信源　36
2.9.3　马尔可夫信源的信息熵　38
2.10　离散信源的信息(速)率和信息含量效率　40
2.11　连续随机变量的熵和平均互信息量　40
2.11.1　连续随机变量的熵　41
2.11.2　连续随机变量的联合熵、条件熵以及平均互信息量　43
2.11.3　微分熵的极大化问题　44
2.11.4　连续信源的熵功率　47
本章主要概念　47
习题　49

第三章　信道模型和信道容量　53
3.1　信道模型与信道分类　53
3.2　离散无记忆信道的数学模型　54
3.3　概率的计算问题　55
3.4　信道的疑义度、散布度和平均互信息　57
3.4.1　信道的疑义度　57
3.4.2　信道的散布度　59
3.4.3　信道的平均互信息　60
3.5　信道容量　63
3.5.1　信道容量的定义　63
3.5.2　离散无噪信道的信道容量　64
3.5.3　离散对称信道　67
3.5.4　一般DMC达到信道容量的充要条件　72
3.5.5　信道容量的迭代算法　75
3.6　扩展信道及其信道容量　76
3.6.1　扩展信道的数学模型　77
3.6.2　扩展信道的平均互信息量和信道容量　78
3.7　信道的组合　80
3.7.1　串联信道　80
3.7.2　独立并联信道　81
3.8　信源与信道的匹配　82
3.9　连续信道及其信道容量　82
3.9.1　连续信道的数学模型　83
3.9.2　加性高斯噪声信道的信道容量　84
3.9.3　一般加性噪声信道的信道容量的界　86
3.10　波形信道及其信道容量　88
本章主要概念　91
习题　94

第四章　离散无记忆信源无失真编码　97
4.1　信源编码概论　98
4.2　码的惟一可译性　100
4.2.1　常见码及其惟一可译性　100
4.2.2　码树和Kraft不等式　101
4.3　定长编码定理和定长编码方法　103
4.4　变长编码定理　106
4.5　变长编码方法　107
4.5.1　霍夫曼编码　107
4.5.2　费诺编码　113
4.5.3　香农编码　114
4.6　几种实用的无失真信源编码　115
4.6.1　游程编码　115
4.6.2　算术编码　119
4.6.3　基于字典的编码　122
本章主要概念　124
习题　125

第五章　有噪信道编码　128
5.1　译码规则与错误概率　128
5.2　两种典型的译码规则　130
5.3　平均差错率与信道编码　133
5.3.1　“简单重复”编码　133
5.3.2　对符号串编码　135
5.4　汉明距离　137
5.5　有噪信道编码定理　140
5.5.1　联合典型序列　140
5.5.2　有噪信道编码定理的证明　142
5.6　Fano不等式和有噪信道编码逆定理　144
5.7　线性分组码　146
5.7.1　线性分组码的生成矩阵和校验矩阵　146
5.7.2　汉明距离和码的纠、检错能力　148
5.7.3　线性码的伴随式与伴随式译码　150
本章主要概念　151
习题　153

第六章　限失真信源编码　154
6.1　失真测度　154
6.2　信息率失真函数及其性质　156
6.2.1　信息率失真函数的定义　156
6.2.2　信息率失真函数的性质　157
6.3　限失真信源编码定理　159
6.4　信息率失真函数的计算　160
6.4.1　离散信源信息率失真函数的参量表示计算方法　160
6.4.2　离散信源信息率失真函数的迭代计算方法　167
本章主要概念　170
习题　171

第七章　网络信息论基础　173
7.1　概论　173
7.2　网络信道的分类　174
7.3　典型信源编码模型　176
7.4　多随机变量联合典型序列　177
7.5　相关信源编码　180
7.6　多址接入信道　183
7.7　高斯多址接入信道　187
7.8　广播信道　190
7.9　中继信道　194
7.10　具有边信息的信源编码和数据压缩　195
本章主要概念　197
习题　199

第八章　信息安全与密码学基础　201
8.1　信息安全概述　201
8.2　网络模型与安全服务功能　202
8.2.1　开放系统互联OSI模型　202
8.2.2　安全分层原则　203
8.2.3　安全服务功能　203
8.2.4　网络安全对策　205
8.3　密码学基础知识　207
8.3.1　基本术语　207
8.3.2　代替密码　209
8.4　密码算法的数学背景　212
8.4.1　信息论　212
8.4.2　复杂性理论　214
8.4.3　数论基础　215
8.5　数据加密标准(DES)　218
8.5.1　数据加密标准的开发　218
8.5.2　DES算法概要　218
8.5.3　初始置换　219
8.5.4　密码运算函数f(R,K)　219
8.5.5　密钥置换　219
8.5.6　扩展置换　221
8.5.7　S盒替代　221
8.5.8　P盒置换　222
8.5.9　逆初始置换　223
8.5.10　DES的安全性　223
8.5.11　DES的硬件实现　225
8.6　公开密钥算法　225
8.6.1　公开密钥密码体制　225
8.6.2　背包公钥密码　225
8.6.3　RSA公钥加密　227
8.6.4　数字签名　230
本章主要概念　232
习题　234

参考书目　236