部分機器學習概念篇

第1章機器學習基礎

1.1機器學習概述

1.1.1機器學習概念

1.1.2機器學習的發展史

1.1.3機器學習的用途

1.1.4機器學習、數據挖掘及人工智能的關繫

1.2機器學習的基本術語

1.3機器學習的任務及算法分類

1.4如何學習和運用機器學習

1.4.1軟件平臺的選擇

1.4.2機器學習應用的實現流程

1.5數據預處理

1.5.1數據選取

1.5.2數據清理

1.5.3數據集成

1.5.4數據變換

1.5.5數據歸約

本章參考文獻

第二部分Python機器學習基礎篇

第2章Python基礎入門

2.1Python的安裝方法

2.2Python學習工具介紹

2.2.1PyCharm的安裝

2.2.2PyCharm界面介紹

2.2.3PyCharm例程的運行

2.3Python語法介紹

2.3.1語法的基本注意事項

2.3.2運算符

2.3.3基本語句

2.4Python基本繪圖

2.4.1建立空白圖

2.4.2散點圖

2.4.3函數圖

2.4.4扇形圖

2.4.5柱狀圖

2.4.6三維散點

2.4.7三維曲線

2.4.8三維曲面

本章參考文獻

第3章Python機器學習工具箱

3.1機器學習的利器——scikitlearn

3.1.1scikitlearn的基礎知識

3.1.2scikitlearn的安裝

3.1.3基本功能的介紹

3.2強化學習的利器——OpenAI Gym

本章參考文獻

第三部分機器學習算法與Python實踐篇

第4章k近鄰算法

4.1k近鄰算法的原理

4.1.1k近鄰算法的實例解釋

4.1.2k近鄰算法的特點

4.2基於k近鄰算法的算法改進

4.2.1快速KNN算法

4.2.2kd樹KNN算法 

4.3k近鄰算法的Python實踐

本章參考文獻

第5章決策樹

5.1決策樹算法概述

5.1.1決策樹算法的基本原理

5.1.2決策樹算法的特點

5.1.3決策樹剪枝

5.1.4分類決策樹與回歸決策樹

5.2基於決策樹算法的算法改進

5.2.1ID3決策樹

5.2.2C4.5決策樹

5.2.3分類回歸樹

5.2.4隨機森林

5.3決策樹算法的Python實現

本章參考文獻

第6章支持向量機

6.1支持向量機算法概述

6.1.1支持向量機概述

6.1.2支持向量機算法及推導

6.1.3支持向量機的核函數

6.2改進的支持向量機算法

6.3支持向量機算法的Python實踐

本章參考文獻

第7章樸素貝葉斯

7.1貝葉斯定理

7.2樸素貝葉斯分類算法

7.3樸素貝葉斯實例分析

7.4樸素貝葉斯分類算法的改進

7.4.1半樸素貝葉斯分類模型

7.4.2樹增強樸素貝葉斯分類模型

7.4.3貝葉斯網絡

7.4.4樸素貝葉斯樹

7.4.5屬性加權樸素貝葉斯分類算法

7.5樸素貝葉斯算法的Python實踐

本章參考文獻

第8章線性回歸

8.1線性回歸的原理

8.1.1簡單線性回歸 

8.1.2線性回歸實例

8線性回歸

8.3線性回歸算法的Python實踐

本章參考文獻

第9章邏輯回歸

9.1邏輯回歸的原理

9.1.1Sigmoid函數

9.1.2梯度下降法

9.2邏輯回歸及公式推導

9.2.1公式推導

9.2.2向量化

9.2.3算法的步驟

9.2.4邏輯回歸的優缺點

9.3邏輯回歸算法的改進

9.3.1邏輯回歸的正則化

9.3.2主成分改進的邏輯回歸方法

9.4邏輯回歸的Python實踐

本章參考文獻

第10章神經網絡

10.1神經網絡算法概述

10.1.1神經網絡的工作原理

10.1.2神經網絡的特點

10.1.3人模型

10.2前向神經網絡

10.2.1感知器

10.2.2BP算法

10.3基於神經網絡的算法擴展

10.3.1深度學習

10.3.2極限學習機

10.4神經網絡的Python實踐

本章參考文獻

第11章AdaBoost算法

11.1集成學習方法簡介

11.1.1集成學習方法的分類

11.1.2集成學習之Boosting算法

11.2AdaBoost算法概述

11.2.1AdaBoost算法的思想

11.2.2AdaBoost算法的理論推導

11.2.3AdaBoost算法的步驟

11.2.4AdaBoost算法的特點

11.2.5通過實例理解AdaBoost算法

11.3AdaBoost算法的改進

11.3.1Real AdaBoost算法

11.3.2Gentle AdaBoost算法

11.3.3LogitBoost算法

11.4AdaBoost算法的Python實踐

本章參考文獻

第12章k均值算法

12.1k均值算法概述

12.1.1k均值算法的基本原理

12.1.2k均值算法的實現步驟 

12.1.3k均值算法的實例

12.1.4k均值算法的特點

12.2基於k均值算法的改進

12.2.1改進k值選取方式的k均值改進算法

12.2.2改進初始聚類中心選擇方式的k均值改進算法

12.3k均值算法的Python實踐

本章參考文獻

第13章期望化算法

13.1EM算法

13.1.1EM算法的思想

13.1.2似然函數和極大似然估計

13.1.3Jensen不等式

13.1.4EM算法的理論和公式推導

13.1.5EM算法的收斂速度

13.1.6EM算法的特點

13.2EM算法的改進

13.2.1Monte Carlo EM算法

13.2.2ECM算法

13.2.3ECME算法

13.3EM算法的Python實踐

本章參考文獻

第14章k中心點算法

14.1經典k中心點算法——PAM算法

14.1.1PAM算法的原理

14.1.2PAM算法的實例

14.1.3PAM算法的特點

14.2k中心點算法的改進

14.3k中心點算法的Python實踐 

本章參考文獻

第15章關聯規則挖掘的Apriori算法

15.1關聯規則概述

15.1.1關聯規則的基本概念

15.1.2關聯規則的分類

15.2Apriori算法的原理

15.3Apriori算法的改進

15.3.1基於分片的並行方法

15.3.2基於hash的方法

15.3.3基於采樣的方法 

15.3.4減少交易個數的方法

15.4Apriori算法的Python實踐

本章參考文獻

第16章高斯混合模型算法

16.1高斯混合模型的原理

16.1.1單高斯模型

16.1.2高斯混合模型

16.1.3模型的建立

16.1.4模型參數的求解

16.2高斯混合模型算法的Python實踐

本章參考文獻

第17章DBSCAN算法

17.1DBSCAN算法概述

17.1.1DBSCAN算法的基本概念

17.1.2DBSCAN算法的原理

17.1.3DBSCAN算法的實現步驟

17.1.4DBSCAN算法的優缺點

17.2DBSCAN算法的改進

17.2.1DPDGA算法

17.2.2並行DBSCAN算法

17.3DBSCAN算法的Python實踐

本章參考文獻

第18章策略迭代和值迭代

18.1基本概念

18.1.1強化學習的基本模型

18.1.2馬爾可夫決策過程

18.1.3策略

18.1.4值函數

18.1.5貝爾曼方程

18.2策略迭代算法的原理

18.3值迭代算法的原理

18.4策略迭代和值迭代算法的Python實踐

18.4.1FrozenLake問題

18.4.2OpenAI Gym庫的介紹

18.4.3FrozenLake環境的實現過程

18.4.4策略迭代算法的實現

18.4.5值迭代算法的實現

本章參考文獻

第19章SARSA算法和Q學習算法

19.1SARSA算法的原理

19.2SARSA算法的Python實踐

19.2.1迷宮問題

19.2.2SARSA算法的實現

19.3Q學習算法的原理

19.4Q學習算法的Python實踐

本章參考文獻

近年來，隨著計算機技術及互聯網技術的發展，人工智能技術也取得了重要的突破。作為人工智能的核心技術，機器學習已經廣泛地應用於各行各業中，如圖像識別、語言識別、文本分類、智能推薦、網絡安全等。未來，伴隨著信息技術的進一步發展，機器學習技術將會更加深入地應用到生產、生活的方方面面。

機器學習是高校計算機、電子信息、工商管理、金融分析等相關專業的必修課程。在學習機器學習之初，不少讀者被其中的大量數學公式或眾多算法名稱嚇得退避三舍，進而迷茫和無從下手，主要原因在於學習相關算法前，未對各類算法進行框架式的分類，或者未結合實例進行算法的理解。
針對上述問題，本書將分三部分介紹。部分為機器學習概念篇（第1章），為讀者構建機器學習方法的基本概念、方法分類、基本處理流程等；第二部分為Python機器學習基礎篇（第2章和第3章），為讀者詳細講解如何使用Python語言及相應的工具包實現機器學習算法； 第三部分為機器學習算法與Python實踐篇（第4~19章），依次講解常用的機器學習算法，包括算法推導過程、算法優缺點、Python實例等。

本書特點： 

（1） 內容循序漸進，從基礎概念到分類，再到詳細講解，便於讀者構建知識體繫。

（2） 算法講解由淺入深，重點突出，通俗易懂。

（3） 理論與實踐結合，通過大量實例闡述各類算法的基本原理，使讀者不僅掌握理論知識，而且掌握實用案例。

（4） 本書配套提供了實例源代碼，掃描目錄上方的二維碼可以下載。

本書的出版得到了清華大學出版社工作人員的大力支持，作者在此表示衷心的感謝。此外，學術界、產業界同仁們的不斷探索推動機器學習技術走到今天，本書的完成得力於此，作者在此一並表示衷心感謝。

一方面，機器學習內容極為龐大和復雜，存在大量的交叉算法，且依據的應用領域不同，不同的算法也會有不同的表現； 另一方面，機器學習領域的發展極其迅速，不斷取得新的研究成果。因此，作者隻能盡力將現有機器學習的框架關繫以及主要算法原理和其實現展現給讀者，以起到拋磚引玉的作用，給機器學習的初學者提供一定的指導。讀者在後期的機器學習中需要閱讀大量的文獻，並在實踐中進行摸索。

由於作者學識有限，本書疏漏和不當之處在所難免，敬請讀者和同行們批評、指正。

作者2023年3月