【章名目录】
第1章　人工智能基础与网络空间安全
第2章　人工智能安全框架
第3章　人工智能安全相关数据处理
第4章　对抗样本攻击与防御
第5章　投毒攻击与防御
第6章　模型后门攻击与防御
第7章　深度伪造生成与检测
第8章　隐私保护
第9章　隐私窃取攻击与防御
第10章　人工智能大模型安全

【详细目录】
第1章　人工智能基础与网络空间安全　1
1.1 人工智能简介　2
1.1.1 人工智能的定义　2
1.1.2 人工智能的研究内容　2
1.1.3 人工智能的流派　4
1.1.4 人工智能的分类　5
1.2 人工智能的发展历程　5
1.2.1 人工智能的发展简史　5
1.2.2 近10年的标志性成果　7
1.2.3 我国人工智能的发展现状　9
1.2.4 获取最新知识的途径　10
1.3 人工智能的基本方法体系　11
1.3.1 传统方法　11
1.3.2 机器学习　12
1.3.3 深度学习　12
1.4 信息安全基础知识　13
1.4.1 信息安全概述　13
1.4.2 信息安全的要素　16
1.4.3 常见威胁与防御　16
1.5 人工智能与网络空间安全　23
1.5.1 人工智能技术本身的安全　23
1.5.2 人工智能应用于网络空间安全　24
1.5.3 人工智能对社会安全的影响　25
1.6 本章小结　26
思考题　26
第2章　人工智能安全框架　27
2.1 人工智能安全的基础概念　28
2.1.1 人工智能安全的基本属性　28
2.1.2 人工智能基础架构安全　28
2.1.3 人工智能内生安全　29
2.1.4 人工智能应用安全风险　30
2.2 人工智能安全维度　30
2.2.1 数据安全维度的安全问题　30
2.2.2 算法维度的安全与可信问题　33
2.2.3 模型安全维度的安全问题　37
2.3 人工智能可解释性和公平性　39
2.3.1 人工智能可解释性　40
2.3.2 人工智能公平性　41
2.4 人工智能安全的典型案例　44
2.4.1 对抗样本案例　44
2.4.2 深度伪造案例　45
2.4.3 数据污染与数据投毒案例　46
2.4.4 算法公平性案例　46
2.5 人工智能安全治理与伦理　47
2.5.1 人工智能安全治理的原则与措施　47
2.5.2 人工智能安全风险分析与标准化　47
2.5.3 人工智能伦理概述　47
2.5.4 典型人工智能伦理问题　49
2.5.5 人工智能应用中的伦理问题　52
2.6 本章小结　55
思考题　56
第3章　人工智能安全相关数据处理　57
3.1 类别不平衡数据处理　58
3.1.1 数据类别不平衡现象　58
3.1.2 不平衡数据学习的分类方法　58
3.1.3 多分类不平衡数据分类方法　67
3.1.4 不平衡学习算法评价指标　72
3.2 噪声数据处理　74
3.2.1 噪声的分类与影响　74
3.2.2 含噪学习理论　74
3.2.3 噪声处理方法　75
3.3 数据众包与真值推断　79
3.3.1 众包与人工智能　80
3.3.2 数据众包　80
3.3.3 众包标签的真值推断　81
3.4 小样本学习与数据增强　87
3.4.1 小样本学习　87
3.4.2 数据层面的常见方法　89
3.4.3 模型层面的常见方法　90
3.4.4 算法层面的常见方法　92
3.5 本章小结　92
思考题　93
第4章　对抗样本攻击与防御　94
4.1 对抗样本攻击概述　95
4.1.1 对抗样本及其存在性　95
4.1.2 对抗样本攻击的分类　96
4.1.3 对抗样本攻击的方法　97
4.1.4 对抗样本扰动的衡量指标　98
4.2 白盒攻击　99
4.2.1 FGSM方法　99
4.2.2 BIM与ILCM方法　100
4.2.3 CW方法　102
4.2.4 PGD方法　105
4.3 黑盒攻击　105
4.3.1 黑盒攻击概述　105
4.3.2 PBAAML方法　106
4.3.3 ZOO方法　107
4.3.4 边界攻击方法　111
4.4 对抗样本攻击防御　114
4.4.1 对抗样本攻击防御概述　114
4.4.2 对抗性检测　114
4.4.3 输入重构　115
4.4.4 知识蒸馏　118
4.4.5 随机化　121
4.4.6 对抗性训练　123
4.5 其他领域的对抗样本攻击　124
4.5.1 文本对抗样本攻击　124
4.5.2 图对抗样本攻击　127
4.6 本章小结　132
思考题　132
第5章　投毒攻击与防御　133
5.1 投毒攻击概述　134
5.1.1 投毒攻击的提出及发展　134
5.1.2 投毒攻击的危害　135
5.2 投毒攻击基本原理　136
5.2.1 形式化定义与理解　136
5.2.2 投毒攻击的分类　139
5.3 投毒攻击方法　140
5.3.1 数据投毒　140
5.3.2 模型投毒　150
5.4 投毒攻击防御方法　155
5.4.1 鲁棒学习　155
5.4.2 数据清洗　161
5.4.3 模型检测　165
5.5 本章小结　167
思考题　167
第6章　模型后门攻击与防御　168
6.1 模型后门攻击概述　169
6.1.1 后门攻击的场景　170
6.1.2 后门攻击的相关概念　170
6.1.3 后门攻击与其他攻击的关系　171
6.2 模型后门攻击方法　172
6.2.1 基于数据投毒的后门攻击　173
6.2.2 基于模型的后门攻击　182
6.2.3 基于动态触发器的后门攻击　188
6.2.4 其他后门攻击方法　191
6.3 模型后门攻击防御方法　193
6.3.1 基于投毒抑制的后门攻击防御方法　193
6.3.2 基于模型的后门攻击防御方法　195
6.3.3 基于触发器的后门攻击防御方法　197
6.4 其他场景下的后门攻击　198
6.4.1 自然语言处理　198
6.4.2 GNN　199
6.4.3 迁移学习　199
6.4.4 联邦学习　200
6.5 本章小结　201
思考题　201
第7章　深度伪造生成与检测　202
7.1 深度伪造概述　203
7.1.1 深度伪造的分类　203
7.1.2 深度伪造的发展历程　203
7.1.3 深度伪造的社会影响　203
7.1.4 深度伪造与生成式人工智能　204
7.2 人脸深度伪造生成技术　205
7.2.1 人脸重现　205
7.2.2 人脸编辑　208
7.2.3 人脸替换　211
7.2.4 人脸合成　215
7.3 语音深度伪造生成技术　219
7.3.1 TTS　219
7.3.2 VC　221
7.4 深度伪造检测技术　222
7.4.1 代表性数据集　223
7.4.2 人脸深度伪造检测技术　223
7.4.3 语音深度伪造检测技术　228
7.5 开放性挑战与未来的研究方向　231
7.5.1 开放性挑战　231
7.5.2 未来的研究方向　232
7.6 本章小结　232
思考题　232
第8章　隐私保护　233
8.1 隐私保护概述　234
8.2 差分隐私　234
8.2.1 匿名化及其攻击　234
8.2.2 ε-差分隐私　237
8.2.3 差分隐私机制　241
8.3 安全多方计算　248
8.3.1 安全多方计算的基本概念　248
8.3.2 安全多方计算的关键技术　249
8.3.3 基于秘密共享的安全多方计算　250
8.3.4 基于混淆电路的安全多方计算　253
8.3.5 面向应用的安全多方计算　254
8.4 联邦学习　255
8.4.1 联邦学习的基本概念　256
8.4.2 联邦学习的隐私威胁　258
8.4.3 联邦学习的隐私保护技术　261
8.4.4 联邦学习的隐私保护方案　265
8.5 知识蒸馏　269
8.5.1 知识蒸馏与隐私保护　269
8.5.2 知识蒸馏方法　270
8.6 本章小结　274
思考题　275
第9章　隐私窃取攻击与防御　276
9.1 隐私窃取攻击概述　277
9.2 数据窃取攻击　280
9.2.1 数据集重建攻击　280
9.2.2 成员推断攻击　286
9.2.3 属性推断攻击　290
9.3 模型窃取攻击　297
9.3.1 模型参数窃取攻击　297
9.3.2 模型结构窃取攻击　301
9.3.3 模型功能窃取攻击　304
9.4 隐私窃取防御　307
9.4.1 数据窃取攻击防御　307
9.4.2 模型窃取攻击防御　309
9.5 本章小结　312
思考题　313
第10章　人工智能大模型安全　314
10.1 大模型安全概述　315
10.2　大模型幻觉　318
10.2.1 大模型幻觉的分类　318
10.2.2 大模型幻觉的诱因　319
10.2.3 大模型幻觉的检测与量化评估　321
10.2.4 大模型幻觉的缓解　323
10.3 提示词注入攻击　325
10.3.1 直接与间接提示词注入攻击　326
10.3.2 目标劫持与提示词泄露　326
10.3.3 越狱提示词　327
10.3.4 提示词注入攻击的防御措施　328
10.4 大模型投毒　329
10.4.1 数据投毒　330
10.4.2 模型投毒　332
10.4.3 大模型投毒的防御措施　333
10.5 本章小结　335
思考题　336