機器學習是人工智能的重要技術基礎，涉及的內容十分廣泛。本書內容涵蓋了機器學習的基礎知識，主要包括機器學習的概論、統計學習基礎、分類、聚類、神經網絡、貝葉斯網絡、支持向量機、進化計算、文本分析等經典的機器學習理論知識，也包括用於大數據機器學習的分布式機器學習算法、深度學習和加強學習等高等級內容。此外，還介紹了機器學習的熱門應用領域推薦技術，並給出了華為機器學習平臺上的實驗。本書深入淺出、內容全面、案例豐富，每章後都有習題和參考文獻，便於學生鞏固學習，適用於高等院校本科生、研究生機器學習、數據分析、數據挖掘等課程的教材，也可作為對機器學習感興趣的研究人員和工程技術人員的參考資料。

序言

DI一章 機器學習概述 1

1.1 機器學習簡介 1

1.1.1 機器學習簡史 1

1.1.2 機器學習主要流派 2

1.2 機器學習、人工智能和數據挖掘 4

1.2.1 什麼是人工智能 4

1.2.2 機器學習、人工智能與數據挖掘 5

1.3 典型機器學習應用領域 5

1.4 機器學習算法 12

1.5 機器學習的一般流程 20

D 二章 機器學習基本方法 23

2.1 統計分析 23

2.1.1 統計基礎 23

2.1.2 常見概率分布 29

2.1.3 參數估計 31

2.1.4 假設檢驗 33

2.1.5 線性回歸 33

2.1.6 Logistics回歸 37

2.1.7 判別分析 38

2.1.8 非線性模型 39

2.2 高維數據降維 40

2.2.1 主成分分析 40

2.2.2 線性判別分析 43

2.2.3 局部線性嵌入 47

2.3 特征工程 48

2.3.1 特征構造 48

2.3.2 特征選擇 49

2.3.3 特征提取 50

2.4 模型訓練 50

2.4.1 模型訓練常見術語 50

2.4.2 訓練數據收集 51

2.5 可視化分析 52

2.5.1 可視化分析的作用 52

2.5.2 可視化分析方法 53

2.5.3 可視化分析常用工具 54

2.5.4 常見的可視化圖表 56

2.5.5 可視化分析面臨的挑戰 62

D三章  決策樹與分類算法 64

3.1 決策樹算法 64

3.1.1 分支處理 66

3.1.2 連續屬性離散化 72

3.1.3 過擬合問題 74

3.1.4 分類效果評價 78

3.2 集成學習 83

3.2.1 裝袋法 83

3.2.2 提升法 84

3.2.3 GBDT 86

3.2.4 隨機森林 87

3.3 決策樹應用 89

D四章 聚類分析 95

4.1 聚類分析概念 95

4.1.1 聚類方法分類 95

4.1.2 良好聚類算法的特征 97

4.2 聚類分析的度量 97

4.2.1 外部指標 98

4.2.2 內部指標 99

4.3 基於劃分的方法 101

4.3.1 k-均值算法 101

4.3.2 k-medoids算法 106

4.3.3 k-prototype算法 107

4.4 基於密度聚類 107

4.4.1 DBSCAN算法 108

4.4.2 OPTICS算法 110

4.4.3 DENCLUE算法 111

4.5 基於層次的聚類 116

4.5.1 BIRCH聚類 117

4.5.2 CURE算法 120

4.6 基於網格的聚類 122

4.7 基於模型的聚類 123

4.7.1 概率模型聚類 123

4.7.2 模糊聚類 129

4.7.3 Kohonen神經網絡聚類 129

D五章 文本分析 137

5.1 文本分析介紹 137

5.2 文本特征提取及表示 138

5.2.1 TF-IDF 138

5.2.2 信息增益 139

5.2.3 互信息 139

5.2.4 卡方統計量 140

5.2.5 詞嵌入 141

5.2.6 語言模型 142

5.2.7 向量空間模型 144

5.3 知識圖譜 146

5.3.1 知識圖譜相關概念 147

5.3.2 知識圖譜的存儲 147

5.3.3 知識圖譜挖掘與計算 148

5.3.4 知識圖譜的構建過程 150

5.4 詞法分析 155

5.4.1 文本分詞 156

5.4.2 命名實體識別 159

5.4.3 詞義消歧 160

5.5 句法分析 161

5.6 語義分析 163

5.7 文本分析應用 164

5.7.1 文本分類 164

5.7.2 信息抽取 167

5.7.3 問答繫統 168

5.7.4 情感分析 169

5.7.5 自動摘要 171

D六章 神經網絡 173

6.1 神經網絡介紹 173

6.1.1 前饋神經網絡 173

6.1.2 反饋神經網絡 176

6.1.3 自組織神經網絡 179

6.2 神經網絡相關概念 180

6.2.1 激活函數 180

6.2.2 損失函數 184

6.2.3 學習率 185

6.2.4 過擬合 188

6.2.5 模型訓練中的問題 189

6.2.6 神經網絡效果評價 192

6.3 神經網絡應用 192

D七章 貝葉斯網絡 197

7.1 貝葉斯理論概述 197

7.1.1 貝葉斯方法的基本觀點 197

7.1.2 貝葉斯網絡的應用 198

7.2 貝葉斯概率基礎 198

7.2.1 概率論 198

7.2.2 貝葉斯概率 199

7.3 樸素貝葉斯分類模型 200

7.4 貝葉斯網絡 203

7.5 貝葉斯網絡的應用 209

7.5.1 中文分詞 210

7.5.2 機器翻譯 210

7.5.3 故障診斷 211

7.5.4 疾病診斷 211

D八章 支持向量機 215

8.1 支持向量機模型 215

8.1.1 核函數 215

8.1.2 模型原理分析 216

8.2 支持向量機應用 219

D九章 進化計算 226

9.1 遺傳算法的基礎 226

9.1.1 基因重組（交叉）與基因突變 227

9.1.2 遺傳算法實現技術 228

9.1.3 遺傳算法案例 234

9.2 蟻群算法 237

9.2.1 蟻群算法應用案例 238

9.3 蜂群算法簡介 239

9.3.1 蜂群算法應用案例 241

D十章 分布式機器學習 245

10.1 分布式機器學習基礎 245

10.1.1 參數服務器 245

10.1.2 分布式並行計算類型 246

10.2 分布式機器學習框架 247

10.3 並行決策樹 254

10.4 並行k-均值算法 255

D十一章  深度學習 258

11.1 卷積神經網絡 258

11.1.1 卷積神經網絡的整體結構 259

11.1.2 常見卷積神經網絡 262

11.2 循環神經網絡 271

11.2.1 RNN基本原理 271

11.2.2 長短期記憶網絡 274

11.2.3 門限 277

11.3 深度學習流行框架 278

D十二章 高等級深度學習 281

12.1 高等級卷積神經網絡 281

12.1.1 目標檢測與追蹤 281

12.1.2 目標分割 295

12.2 高等級循環神經網絡應用 301

12.2.1 Encoder-Decoder模型 301

12.2.2 注意力模型 301

12.2.3 LSTM高等級應用 302

12.3 無監督式深度學習 307

12.3.1 深度信念網絡 307

12.3.2 自動編碼器網絡 309

12.3.3 生成對抗網絡模型 312

12.4 強化學習 316

12.4.1 增強學習基礎 316

12.4.2 深度增強學習 318

12.5 遷移學習 321

12.6 對偶學習 324

D十三章  推薦繫統 327

13.1 推薦繫統介紹 327

13.1.1 推薦繫統的應用場景 327

13.2 推薦繫統通用模型 329

13.2.1 推薦繫統結構 329

13.2.2 基於內容的推薦 330

13.2.3 基於協同過濾的推薦算法 331

13.2.4 基於圖的模型 334

13.2.5 基於關聯規則的推薦 335

13.2.6 基於知識的推薦 341

13.2.7 基於標簽的推薦 342

13.3 推薦繫統評測 343

13.3.1 評測方法 343

13.3.2 評測指標 345

13.4 推薦繫統常見問題 349

13.4.1 冷啟動問題 349

13.4.2 推薦繫統注意事項 351

13.5 推薦繫統實例 352

D十四章 實驗 364

14.1 華為FusionInsight產品平臺介紹 364

14.2 銀行定期存款業務預測 365

14.2.1 上傳銀行客戶及存貸款數據 366

14.2.2 準備存款業務分析工作區 367

14.2.3 創建數據挖掘流程 368

14.2.4 定期存款業務模型保存和應用 375

14.3 客戶分群 378

14.3.1 分析業務需求 379

14.3.2 上傳客戶信息數據 381

14.3.3 準備客戶分群工作區 382

14.3.4 創建數據挖掘流程 383

14.3.5 客戶分群模型保存和應用 392