项目1　机器学习基础与开发环境搭建　1
项目背景　1
学习目标　2
1.1　项目知识准备　2
1.1.1　什么是机器学习　2
1.1.2　机器学习的应用场景　5
1.1.3　机器学习的流程　5
1.1.4　机器学习的分类　6
1.1.5　过拟合和欠拟合　7
1.1.6　衡量机器学习模型的指标　8
1.2　项目实训　9
1.2.1　任务1：搭建机器学习开发环境——Anaconda　9
1.2.2　任务2：Jupyter Notebook的使用操作　12
1.2.3　任务3：NumPy库的基本用法　13
1.2.4　任务4：pandas库的基本用法　14
1.2.5　任务5：Matplotlib库的基本用法　15
1.3　项目拓展——查看机器学习常用数据集　15
1.4　项目小结　18
1.5　习题　18
项目2　数据预处理实战　19
项目背景　19
学习目标　20
2.1　项目知识准备　20
2.1.1　数据处理　20
2.1.2　数据降维　26
2.1.3　数据集拆分　27
2.2　项目实训　28
2.2.1　任务1：数据标准化处理　28
2.2.2　任务2：数据离差标准化处理　30
2.2.3　任务3：数据二值化处理　30
2.2.4　任务4：数据归一化处理　31
2.2.5　任务5：独热编码处理　33
2.2.6　任务6：数据降维处理　35
2.3　项目拓展——wine数据集拆分、标准化和降维处理　38
2.4　项目小结　41
2.5　习题　41
项目3　KNN算法实战　42
项目背景　42
学习目标　43
3.1　项目知识准备　43
3.1.1　KNN算法的原理　43
3.1.2　KNN算法的流程　44
3.1.3　KNN算法的关键　44
3.1.4　KNN算法详解　45
3.2　项目实训　46
3.2.1　任务1：基于KNN算法的分类任务　46
3.2.2　任务2：KNN算法应用——酒的分类　48
3.2.3　任务3：KNN算法应用——辅助诊断乳腺肿瘤　51
3.3　项目拓展——KNN回归预测　54
3.4　项目小结　57
3.5　习题　57
项目4　线性回归预测模型构建　59
项目背景　59
学习目标　60
4.1　项目知识准备　60
4.1.1　什么是线性回归　60
4.1.2　损失函数　62
4.1.3　岭回归模型　63
4.1.4　套索回归模型　64
4.2　项目实训　64
4.2.1　任务1：线性回归模型的应用——数据拟合　64
4.2.2　任务2：线性回归模型的应用——加利福尼亚房价预测　67
4.2.3　任务3：岭回归模型的应用——加利福尼亚房价预测　71
4.2.4　任务4：套索回归模型的应用——加利福尼亚房价预测　73
4.2.5　线性回归算法详解　74
4.3　项目拓展——糖尿病患者病情预测　75
4.4　项目小结　80
4.5　习题　80
项目5　逻辑回归算法实战　81
项目背景　81
学习目标　82
5.1　项目知识准备　82
5.1.1　逻辑回归算法的基本原理　82
5.1.2　逻辑回归模型的参数选择　83
5.2　项目实训　84
5.2.1　任务1：逻辑回归算法的应用及效果展示　84
5.2.2　任务2：基于逻辑回归算法诊断肿瘤　87
5.2.3　逻辑回归算法详解　90
5.3　项目拓展——泰坦尼克号乘客生还情况预测　91
5.3.1　任务分析　91
5.3.2　任务实现　92
5.4　项目小结　94
5.5　习题　94
项目6　朴素贝叶斯分类算法实战　95
项目背景　95
学习目标　96
6.1　项目知识准备　96
6.1.1　朴素贝叶斯算法及其原理　96
6.1.2　伯努利朴素贝叶斯算法　97
6.1.3　高斯朴素贝叶斯算法　98
6.1.4　多项式朴素贝叶斯算法　101
6.2　项目实训　103
6.2.1　任务1：用伯努利朴素贝叶斯模型实现天气预测　103
6.2.2　任务2：用高斯朴素贝叶斯模型实现连续值的分类　105
6.2.3　任务3：用多项式朴素贝叶斯模型实现离散值的分类　108
6.3　项目拓展——预测客户是否续订定期存款产品　111
6.3.1　任务分析　111
6.3.2　任务实现　111
6.4　项目小结　115
6.5　习题　115
项目7　决策树与随机森林预测建模　116
项目背景　116
学习目标　117
7.1　项目知识准备　117
7.1.1　决策树的算法原理和构造　117
7.1.2　随机森林的算法原理和构造　120
7.2　项目实训　122
7.2.1　任务1：用决策树和随机森林模型判断潜在可开发新能源区域　122
7.2.2　任务2：用线性回归模型和随机森林回归模型预测加利福尼亚房价　126
7.2.3　决策树算法详解　128
7.3　项目拓展——决策树模型在葡萄酒质量预测中的应用　131
7.3.1　任务分析　131
7.3.2　任务实现　131
7.4　项目小结　134
7.5　习题　134
项目8　支持向量机算法实战　135
项目背景　135
学习目标　136
8.1　项目知识准备　136
8.1.1　SVM的概念　136
8.1.2　SVM的核函数与参数选择　138
8.2　项目实训　141
8.2.1　任务1：用SVM实现回归预测　141
8.2.2　任务2：用SVM实现体重分类预测　143
8.2.3　SVM实现方法详解　145
8.3　项目拓展——SVM实现收入分类预测　147
8.3.1　任务分析　147
8.3.2　任务实现　148
8.4　项目小结　150
8.5　习题　150
项目9　k均值聚类算法实战　151
项目背景　151
学习目标　152
9.1　项目知识准备　152
9.1.1　聚类算法简介　152
9.1.2　k均值聚类算法的原理　152
9.1.3　k均值聚类算法的参数选择　154
9.2　项目实训　155
9.2.1　任务1：k均值聚类算法的应用及效果展示　155
9.2.2　任务2：用k均值聚类算法实现鸢尾花数据聚类　157
9.2.3　k均值聚类算法详解　160
9.3　项目拓展——航空公司客户价值分析　161
9.3.1　任务分析　161
9.3.2　任务实现　162
9.4　项目小结　168
9.5　习题　168
项目10　神经网络基础与应用实战　169
项目背景　169
学习目标　170
10.1　项目知识准备　170
10.1.1　神经网络的起源　170
10.1.2　神经网络的原理　172
10.1.3　神经网络的决策过程　174
10.2　项目实训　175
10.2.1　任务1：用神经网络完成鸢尾花分类任务　175
10.2.2　任务2：用神经网络实现手写数字识别　178
10.2.3　MLPClassifier类详解　181
10.3　项目拓展——多层感知机进行信用卡欺诈检测　182
10.3.1　任务分析　182
10.3.2　任务实现　183
10.4　项目小结　185
10.5　习题　185
项目11　模型评估与优化　186
项目背景　186
学习目标　187
11.1　项目知识准备　187
11.1.1　交叉验证　187
11.1.2　超参数调优　188
11.1.3　分类模型的可信度评估　188
11.1.4　ROC曲线与AUC值　190
11.2　项目实训　192
11.2.1　任务1：使用交叉验证法评估模型　192
11.2.2　任务2：使用网格搜索算法进行模型参数调优　193
11.2.3　任务3：分类模型的可信度评估练习　195
11.3　项目拓展——基于逻辑回归的油耗预测与参数调优　196
11.3.1　任务分析　196
11.3.2　任务实现　197
11.4　项目小结　200
11.5　习题　200