第 1 章 機器學習概述 21

技能目標.21

本章任務.21

任務1.1：了解機器學習的基本概念22

1.1.1什麼是機器學習22

1.1.2機器學習的起源與發展23

任務1.2：了解機器學習的應用場景25

1.2.1機器學習技術在日常生活中的應用25

1.2.2機器學習技術在不同行業中的應用28

任務1.3：了解機器學習的學習路徑30

1.3.1學習機器學習的先決條件.30

1.3.2開啟你的“海綿模式”32

1.3.3開始動手實踐 .33

任務1.4：掌握機器學習的先導知識概念34

本章小結.36

本章習題

第2 章 機器學習工具安裝與使用 .38

技能目標.38

本章任務.38

任務2.1：Anaconda 的安裝與使用39

2.1.1下載安裝 Anaconda.39

2.1.2Jupyter Notebook 的使用41

任務2.2：pandas 和可視化工具的基本使用45

2.2.1pandas 的基本使用45

2.2.2數據可視化工具的基本使用.48

任務2.3：掌握 scikit-learn 的基本操作51

2.3.1．使用scikit-learn 加載並檢查數據51

2.3.2．使用scikit-learn 訓練模型並評估54

2.3.3．保存和載入訓練好的模型文件.56

本章小結.57

本章習題

第3 章 線性模型59

技能目標.59

本章任務.59

任務3.1：掌握線性模型的基本概念和線性回歸的使用60

3.1.1線性模型的基本概念60

3.1.2線性回歸模型的使用62

任務3.2： 掌握嶺回歸的原理及使用66

3.2.1嶺回歸的原理 .67

3.2.2嶺回歸的使用 .69

任務3.3：掌握套索回歸的原理及使用73

3.3.1套索回歸的原理73

3.3.2套索回歸的參數調節74

任務3.4： 了解邏輯回歸與線性支持向量機.76

3.4.1邏輯回歸與線性支持向量機簡介 .77

3.4.2訓練邏輯回歸模型並預測.77

3.4.3訓練線性支持向量機模型並預測 .79

本章小結.80

本章習題

第4 章 決策樹和隨機森林.81

技能目標.81

本章任務.81

任務4.1： 初步掌握決策樹算法 .82

4.1.1什麼是決策樹算法82

4.1.2決策樹的基本使用方法83

4.1.3決策樹中的 max_depth 參數 .85

4.1.4決策樹的模型展現.91

4.1.5決策樹的優勢與不足92

任務4.2： 初步掌握隨機森林算法93

4.2.1什麼是隨機森林算法93

4.2.2隨機森林算法中的參數解釋94

4.2.3隨機森林與決策樹模型的差異95

4.2.4隨機森林的優勢與不足 .96

任務4.3：使用決策樹與隨機森林實戰練習.97

4.3.1下載數據集並載入97

4.3.2了解數據集的特征98

4.3.3使用數據集訓練決策樹與隨機森林99

本章小結.102

本章習題

第5 章 支持向量機103

技能目標.103

本章任務.103

任務5.1： 理解支持向量機的基本原理104

5.1.1“線性不可分”的數據集104

5.1.2將數據投射到高維空間105

5.1.3“不線性”的支持向量機.106

任務5.2：理解支持向量機的核函數和 gamma 參數 .108

5.2.1支持向量機的 RBF 內核108

5.2.2不同內核的支持向量機對比.110

5.2.3gamma 參數對模型的影響.112

5.2.4支持向量機中的 C 參數114

5.2.5支持向量機的優勢與不足.116

任務5.3：使用支持向量機算法進行實戰練習.116

5.3.1數據集準備與初步了解116

5.3.2探索性數據分析119

5.3.3初步訓練支持向量機模型.121

5.3.4對數據進行預處理並重新訓練模型123

本章小結.127

本章習題

第6 章 樸素貝葉斯128

技能目標.128

本章任務.128

任務6.1: 了解樸素貝葉斯的基本原理和使用128

6.1.1樸素貝葉斯算法的基本原理.129

6.1.2樸素貝葉斯用法示例130

任務6.2: 了解不同樸素貝葉斯變體的差異 .131

6.2.1伯努利樸素貝葉斯的不足.132

6.2.2用高斯樸素貝葉斯替代伯努利樸素貝葉斯133

6.2.3多項式樸素貝葉斯簡介134

任務6.3: 掌握樸素貝葉斯的實際應用.135

6.3.1獲取數據集並檢查135

6.3.2數據預處理與模型訓練 .136

6.3.3樣本數量對樸素貝葉斯模型的影響138

本章小結.140

本章習題

第7 章 K 近鄰算法.141

技能目標.141

本章任務.141

任務7.1：了解 K 近鄰算法.142

7.1.1K 近鄰算法的簡介及原理.142

任務7.2：掌握 K 近鄰算法在分類任務中的應用.144

7.2.1K 近鄰算分類任務中的應用145

7.2.2K 近鄰算法分類任務 .148

任務7.3：掌握 K 近鄰算法在回歸分析中的應用.151

7.3.1掌握 K 近鄰算法在回歸分析中的應用.151

任務7.4：使用 K 近鄰算法實戰練習155

7.4.1對數據集進行分析155

7.4.2生成訓練集和驗證集158

7.4.3使用 K 近鄰算法進行建模並調優160

7.4.4使用模型對新樣本進行預測.164

本章小結.166

本章習題

第8 章 神經網絡167

技能目標.167

本章任務.167

任務8.1：了解神經網絡的起源與發展168

8.1.1了解神經網絡的起源.169

8.1.2了解神經網絡的發展.170

任務8.2：掌握神經網絡的原理.172

8.2.1了解神經網絡的原理172

任務8.3：掌握神經網絡中的激活函數175

8.3.1了解激活函數175

8.3.2使用激活函數176

任務8.4：掌握神經網絡中的參數調節178

8.4.1分析數據集並展現.178

8.4.2參數調節182

任務8.5：使用神經網絡解決實際問題187

8.5.1分析 fashion-mnist 數據集187

8.5.2訓練 MLP 神經網絡.190

8.5.3使用模型進行圖片識別190

本章小結.192

本章習題

第9 章 聚類.194

技能目標.194

本章任務.194

任務9.1：了解聚類算法的原理與用途195

9.1.1了解聚類算法的原理.195

9.1.2了解聚類算法的用途.197

17/ 305任務 9.2：掌握 K 均值算法的原理和使用198

9.2.1了解 K 均值算法的原理199

9.2.2使用 K 均值算法進行簡單聚類分析200

任務9.3：掌握 DBSCAN 算法的原理和使用.203

9.3.1了解 DBSCAN 算法的原理203

9.3.2使用 DBSCAN 算法進行簡單聚類分析 .205

任務9.4：使用聚類算法解決實際問題211

9.4.1對數據集進行分析212

9.4.2使用 K 均值算法進行聚類分析.214

本章小結.221

本章習題

第10 章 數據降維、特征提取與流形學習222

技能目標.222

本章任務.222

任務10.1: 使用 PCA 主成分分析進行數據降維.223

10.1.1PCA 主成分分析介紹223

10.1.2使用 PCA 降維以便進行可視化226

10.1.3PCA 主成分與原始特征的關繫.227

任務10.2: 使用 PCA 中的數據白化功能進行特征提取229

10.2.1使用人臉識別數據集進行實驗229

10.2.2使用 PCA 進行特征提取232

10.2.3特征提取對於模型準確率的影響234

任務10.3: 使用 t-SNE 對數據降維並進行可視化.235

10.3.1t-SNE 簡介235

10.3.2使用 PCA 降維作為 Baseline236

10.3.3使用 t-SNE 降維並進行可視化239

本章小結.241

本章習題

第11 章 模型選擇、優化及評估.242

技能目標.242

本章任務.242

任務11.1：掌握交叉驗證方法對模型進行評估.243

11.1.1交叉驗證法簡介.243

11.1.2K-折疊交叉驗證法243

11.1.3隨機拆分和留一交叉驗證法246

任務11.2：掌握網格搜索法尋找模型的參數.248

11.2.1了解及使用簡單網格搜索248

11.2.2與交叉驗證結合的網格搜索250

任務11.3：掌握模型的不同評價標準253

11.3.1分類模型的評價標準253

11.3.2使用 R 平方分數評估回歸模型.255

本章小結.258

本章習題

第12 章 數據預處理與特征選擇.259

技能目標.259

本章任務.259

任務12.1：掌握常用的數據標準化方法260

12.1.1使用 StandardScaler 進行數據預處理260

12.1.2使用 MinMaxScaler 進行數據標準化處理262

12.1.3使用 Normalizer 進行數據標準化處理.264

12.1.4使用 RobustScaler 進行數據標準化處理265

任務12.2：掌握常用的數據表達方法267

12.2.1虛擬變量.267

12.2.2數據分箱.269

任務12.3：掌握常用的特征選擇方法274

12.3.1單變量統計 .274

12.3.2基於模型的特征選擇278

12.3.3迭代特征選擇279

本章小結.280

本章習題

第13 章 處理文本數據282

技能目標.282

本章任務.282

任務13.1：掌握文本數據的特征提取、漢語分詞和詞包模型283

13.1.1基於計數向量器的文本特征提取.283

13.1.2對漢語文本進行分詞處理285

13.1.3使用詞包模型將文本轉換為數組.286

任務13.2：文本數據的進一步優化處理287

13.2.1默認參數下詞包模型的問題.287

13.2.2調整 n_Gram 參數重新建立模型 .288

任務13.3：使用真實數據進行實戰練習290

13.3.1載入數據集並查看特征290

13.3.2文本數據預處理.291

13.3.3使用“樸素貝葉斯”算法訓練模型.294

13.3.4使用模型判斷消費者評論295

本章小結.296

本章習題

第14 章 未來職業發展前景與方向 .298

技能目標.298

本章任務.298

任務：了解數據科學家的職業發展298

14.1.1數據科學家的養成298

14.1.2在實踐中提高技能301

14.1.3未來的學習方向303

本章小結.305

本章習題