本書基於Python語言，結合實際的數據集，介紹如何使用機器學習與深度學習算法，對數據進行實戰分析。本書在內容上循序漸進，先介紹了Python的基礎內容，以及如何利用Python中的第三方庫對數據進行預處理和探索可視化的相關操作，然後結合實際數據集，分章節介紹了機器學習與深度學習的相關算法應用。本書為讀者提供了源程序和使用的數據集，方便讀者在閱讀時同步運行程序，在增強學習效果的同時為讀者了編寫程序的時間。源程序使用Notebook的形式進行組織，每個小節注釋清晰，講解透徹。同時為程序配備了相應的視頻講解，輔助讀者對程序能很好地理解和消化。本書在簡明扼要地介紹算法原理的同時，更加注重實戰應用和對結果的解讀。

餘本國，博士，碩士研究生導師。2001年畢業於石河子大學數學繫，同年到中北大學（原華北工學院）任教，主講線性代數、高等數學、微積分、概率統計、數學實驗、Python語言、大數據分析基礎等課程。2012年到加拿大York University做訪問學者。現工作於海南醫學院生物醫學信息與工程學院。作品有《Python數據分析基礎》《基於Python的大數據分析基礎及實戰》等書。

第1章 Python機器學習入門 1
1．1機器學習簡介 1
1．1．1機器學習是什麼 1
1．1．2機器學習算法分類 2
1．2安裝Anaconda（Python） 6
1．2．1Spyder 7
1．2．2Jupyter Notebook 8
1．2．3JupyterLab 8
1．3Python快速入門 10
1．3．1組和字典 10
1．3．2條件判斷、循環和函數 15
1．4Python基礎庫入門實戰 18
1．4．1NumPy庫應用入門 18
1．4．2pandas庫應用入門 25
1．4．3Matplotlib庫應用入門 34
1．5機器學習模型初探 40
1．6本章小結 43
第2章 數據探索與可視化 44
2．1缺失值處理 45
2．1．1簡單的缺失值處理方法 46
2．1．2復雜的缺失值填充方法 52
2．2數據描述與異常值發現 55
2．2．1數據描述統計 55
2．2．2發現異常值的基本方法 61
2．3可視化分析數據關繫 63
2．3．1連續變量間關繫可視化分析 63
2．3．2分類變量間關繫可視化分析 68
2．3．3連續變量和分類變量間關繫可視化分析 71
2．3．4其他類型數據可視化分析 77
2．4數據樣本間的距離 80
2．5本章小結 84
第3章 特征工程 86
3．1特征變換 87
3．1．1數據的無量綱化處理 87
3．1．2數據特征變換 93
3．2特征 96
3．2．1分類特征重新編碼 97
3．2．2數值特征重新編碼 98
3．2．3文本數據的特征構建 102
3．3特征選擇 105
3．3．1基於統計方法 106
3．3．2基於遞歸消除特征法 107
3．3．3基於機器學習的方法 108
3．4特征提取和降維 109
3．4．1主成分分析 109
3．4．2核主成分分析 111
3．4．3流形學習 113
3．4．4t-SNE 114
3．4．5多維尺度分析 115
3．5數據平衡方法 116
3．5．1基於過采樣算法 117
3．5．2基於欠采樣算法 119
3．5．3基於過采樣和欠采樣的綜合算法 121
3．6本章小結 122
第4章 模型選擇和評估 124
4．1模型擬合效果 124
4．1．1欠擬合與過擬合表現方式 124
4．1．2避免欠擬合與過擬合的方法 126
4．2模型訓練技巧 127
4．2．1交叉驗證 128
4．2．2參數網絡搜索 132
4．3模型的評價指標 134
4．3．1分類效果評價 134
4．3．2回歸效果評價 135
4．3．3聚類效果評價 137
4．4本章小結 138
第5章 假設檢驗和回歸分析 139
5．1假設檢驗 141
5．1．1數據分布檢驗 141
5．1．2t檢驗 144
5．1．3方差分析 145
5．回歸 149
5．2．線性回歸 149
5．2．非線性回歸 151
5．回歸 154
5．3．線性回歸 155
5．3．2逐步回歸 161
5．3．自適應回歸樣條 164
5．4正則化回歸分析 166
5．4．1Ridge回歸分析 169
5．4．2LASSO回歸分析 172
5．4．3彈性網絡回歸 176
5．5Logistic回歸分析 178
5．5．1數據準備與可視化 179
5．5．2邏輯回歸分類 181
5．6本章小結 185
第6章 時間序列分析 186
6．1時間序列數據的相關檢驗 187
6．1．1白噪聲檢驗 188
6．1．2平穩性檢驗 189
6．1．3自相關分析和偏自相關分析 192
6．2移動平均算法 196
6．2．1簡單移動平均法 197
6．2．2簡單指數平滑法 198
6．2．3霍爾特線性趨勢法 199
6．2．4Holt-Winters季節性預測模型 201
6．3ARIMA模型 202
6．3．1AR模型 202
6．3．2ARMA模型 205
6．3．3ARIMA模型 209
6．4SARIMA模型 213
6．5Prophet模型預測時間序列 215
6．5．1數據準備 216
6．5．2模型建立與數據預測 216
6．時間序列ARIMAX模型 220
6．6．1數據準備與可視化 220
6．6．2ARIMAX模型建立與預測 223
6．7時序數據的異常值檢測 227
6．7．1數據準備與可視化 228
6．7．2時序數據異常值檢測 228
6．8本章小結 230
第7章 聚類算法與異常值檢測 232
7．1模型簡介 232
7．1．1常用的聚類算法 232
7．1．2常用的異常值檢測算法 234
7．2數據聚類分析 236
7．2．1K-均值與K-中值聚類算法 236
7．2．2層次聚類 243
7．2．3譜聚類與模糊聚類 245
7．2．4密度聚類（DBSCAN） 249
7．2．5高斯混合模型聚類 253
7．2．6親和力傳播聚類 255
7．2．7BIRCH聚類 258
7．3數據異常值檢測分析 261
7．3．1LOF和COF算法 262
7．3．2帶有異常值的高維數據探索 267
7．3．3基於PCA與SOD的異常值檢測方法 270
7．3．4孤立森林異常值檢測 274
7．3．5支持向量機異常值檢測 276
7．4本章小結 279
第8章 決策樹和集成學習 280
8．1模型簡介與數據準備 280
8．1．1決策樹與集成學習算法思想 280
8．1．2數據準備和探索 284
8．2決策樹模型 290
8．2．1決策樹模型數據分類 291
8．2．2決策樹模型數據回歸 295
8．3隨機森林模型 302
8．3．1隨機森林模型數據分類 302
8．3．2隨機森林模型數據回歸 306
8．4AdaBoost模型 310
8．4．1AdaBoost模型數據分類 310
8．4．2AdaBoost模型數據回歸 314
8．5梯度提升樹（GBDT） 317
8．5．1GBDT模型數據分類 317
8．5．2GBDT模型數據回歸 319
8．6本章小結 321
第9章 貝葉斯算法和K-近鄰算法 322
9．1模型簡介 322
9．2貝葉斯分類算法 325
9．2．1文本數據準備與可視化 325
9．2．2樸素貝葉斯文本分類 327
9．3貝葉斯網絡數據分類 334
9．3．1自定義貝葉斯網絡結構 334
9．3．2搜索所有網絡結構 336
9．3．3啟發式搜索網絡結構 339
9．4K-近鄰算法 340
9．4．1K-近鄰數據分類 340
9．4．2K-近鄰數據回歸 353
9．5本章小節 357
第10章 支持向量機和人工神經網絡 358
10．1模型簡介 358
10．2支持向量機模型 362
10．2．1支持向量機數據分類 363
10．2．2支持向量機數據回歸 369
10．3全連接神經網絡模型 374
10．3．1單隱藏層全連接神經網絡數據分類 375
10．3．2多隱藏層全連接神經網絡數據分類 379
10．3．3全連接神經網絡數據回歸 382
10．4本章小結 387
第11章 關聯規則與文本挖掘 388
11．1模型簡介 388
11．1．1關聯規則 388
11．1．2文本挖掘 390
11．2數據關聯規則挖掘 392
11．2．1FPGrowth關聯規則挖掘 393
11．2．2Apriori關聯規則挖掘 396
11．3文本數據預處理 403
11．3．1英文文本預處理 403
11．3．2 《三國演義》文本預處理 406
11．4文本聚類分析 410
11．4．1文本數據特征獲取 410
11．4．2常用的聚類算法 412
11．4．3LDA主題模型 416
11．5《三國演義》人物關繫分析 422
11．5．1人物重要性時序分析 422
11．5．2人物關繫可視化分析 425
11．6本章小節 429
第12章 深度學習入門 430
12．1深度學習介紹 431
12．1．1卷積和池化 431
12．1．2卷積神經網絡 432
12．1．3循環神經網絡 432
12．1．4自編碼網絡 433
12．2PyTorch入門 434
12．2．1張量的使用 434
12．2．2常用的層 438
12．3卷積神經網絡識別草書 441
12．3．1草書數據預處理與可視化 441
12．3．2ResNet18網絡識別草書 446
12．4循環神經網絡新聞分類 452
12．4．1數據準備 452
12．4．2LSTM網絡文本分類 454
12．5自編碼網絡重構圖像 460
12．5．1數據準備 461
12．5．2自編碼網絡重構手寫數字 462
12．6本章小結 467
參考文獻 468