第1章  數學基礎  1
1.1  線性代數  1
1.1.1  標量、向量、矩陣和張量  1
1.1.2  線性相關和生成子空間  3
1.1.3  矩陣的特征分解  3
1.1.4  矩陣的奇異值分解  5
1.1.5  範數  6
1.2  概率論和信息論簡介  6
1.2.1  概率論  6
1.2.2  信息論  9
1.3  優化算法  13
1.3.1  梯度  13
1.3.2  梯度下降  15
1.3.3  約束優化  17
1.4  信號分析基礎  19
1.4.1  信號分析的相關概念  19
1.4.2  信號的分解  23
1.4.3  傅裡葉變換  25
1.4.4  小波變換  27
習題  28
第2章  經典機器學習  31
2.1  監督學習  31
2.1.1  線性回歸模型  33
2.1.2  邏輯回歸算法  38
2.1.3  k近鄰法  42
2.1.4  樸素貝葉斯法  43
2.1.5  支持向量機  47
2.1.6  決策樹  54
2.2  無監督學習  59
2.2.1  降維  59
2.2.2  聚類  65
習題  72
第3章  深度學習  74
3.1  人工神經網絡  74
3.1.1  基礎  74
3.1.2  激活函數類型  75
3.1.3  神經網絡基礎  76
3.1.4  神經網絡權值更新  78
3.1.5  其他梯度下降法  82
3.1.6  案例： 神經網絡識別數字  84
3.2  卷積神經網絡  84
3.2.1  卷積操作  85
3.2.2  卷積層相關概念  86
3.2.3  池化操作  90
3.2.4  平鋪及全連接操作  91
3.2.5  卷積神經網絡反向傳播公式  92
3.2.6  案例：卷積神經網絡識別數字  96
3.3  循環神經網絡  97
3.3.1  循環神經網絡基礎  97
3.3.2  循環神經網絡傳播公式  99
3.3.3  LSTM網絡  102
3.3.4  門控和雙向LSTM  104
3.3.5  深度循環神經網絡  106
3.3.6  案例：循環神經網絡文本預測  106
3.4  生成對抗神經網絡  107
3.4.1  對抗神經網絡基礎  107
3.4.2  對抗神經網絡實際操作  110
3.4.3  生成對抗神經網絡變體  112
3.4.4  案例：對抗神經網絡生成樣本  112
3.5  神經網絡前沿延伸閱讀  114
習題  117
第4章  強化學習  121
4.1  任務與獎勵  121
4.2  馬爾可夫決策過程  122
4.3  最優策略  128
4.4  免模型學習  129
4.4.1  預備知識：蒙特卡羅方法  129
4.4.2  基於價值的方法  130
4.4.3  基於策略的方法  133
4.5  蒙特卡羅樹搜索  135
4.5.1  背景  136
4.5.2  啟發式搜索  138
4.5.3  預演算法  139
4.5.4  MCTS算法  140
4.5.5  MCTS示例  143
4.6  深度強化學習  147
4.6.1  深度Q網絡  147
4.6.2  近端策略優化  149
4.6.3  延伸閱讀：AlphaGo  151
4.6.4  案例：基於深度Q網絡的智能小車平衡  153
習題  156
第5章  數據處理相關知識  158
5.1  工業大數據  158
5.1.1  工業大數據背景  158
5.1.2  工業大數據平臺  159
5.1.3  工業大數據分析建模方法體繫  161
5.1.4  工業大數據平臺架構  164
5.1.5  工業大數據分析建模計算框架  166
5.2  數據處理  168
5.2.1  數據清洗  168
5.2.2  數據變換  170
5.2.3  數據降維  172
5.2.4  非平衡數據集的處理  173
5.3  環境配置及代碼編程  175
5.3.1  Anaconda平臺介紹及環境配置  175
5.3.2  Keras搭建神經網絡序貫模型  177
第6章  生產繫統相關案例  179
6.1  旋轉機械關鍵部件故障診斷  179
6.1.1  背景介紹  179
6.1.2  案例研究  179
6.1.3  數據預處理  181
6.1.4  齒輪箱振動信號特征參數提取  182
6.1.5  SVM故障分類模型構建  183
6.1.6  結果分析  185
6.1.7  總結  185
6.2  刀具磨損狀態評估  185
6.2.1  背景介紹  185
6.2.2  案例研究  186
6.2.3  磨損狀態評估模型構建  188
6.2.4  評價指標構建  190
6.2.5  結果分析  191
6.2.6  總結  192
第7章  能源、電信繫統相關案例  193
7.1  風力發電機葉片開裂故障診斷  193
7.1.1  背景介紹  193
7.1.2  問題描述  193
7.1.3  數據預處理  194
7.1.4  評價指標  195
7.1.5  故障診斷方法  196
7.1.6  結果分析  197
7.1.7  總結  198
7.2  基於深度強化學習的核電站維修決策  198
7.2.1  背景介紹  198
7.2.2  問題描述  199
7.2.3  仿真環境搭建  200
7.2.4  評價指標  201
7.2.5  PPO算法  202
7.2.6  結果分析  204
7.2.7  總結  204
7.3  5G通信數據下行傳輸速率預測  205
7.3.1  問題背景  205
7.3.2  數據介紹  205
7.3.3  數據預處理  205
7.3.4  模型構建  206
7.3.5  結果分析  207
7.3.6  總結  207
第8章  交通繫統相關案例  208
8.1  高速列車車輪健康狀態監測  208
8.1.1  背景介紹  208
8.1.2  數據預處理  208
8.1.3  監測方法  211
8.1.4  結果分析  212
8.1.5  總結  213
8.2  航天裝備的結構振動預測  213
8.2.1  背景介紹  213
8.2.2  問題描述  214
8.2.3  數據預處理  214
8.2.4  評價指標  216
8.2.5  振動預測方法  217
8.2.6  結果分析  219
8.2.7  總結  219
8.3  城市公共交通繫統的客流預測  221
8.3.1  背景介紹  221
8.3.2  數據描述  222
8.3.3  數據預處理  222
8.3.4  評價指標  224
8.3.5  模型構建  224
8.3.6  結果分析  226
8.3.7  總結  227
第9章  醫療繫統相關案例  228
9.1  糖尿病患者的血糖預測  228
9.1.1  背景介紹  228
9.1.2  問題描述  228
9.1.3  數據預處理  230
9.1.4  評價指標  232
9.1.5  血糖預測方法  232
9.1.6  結果分析  234
9.1.7  總結  236
9.2  國內各省份新冠疫情聚類分析  237
9.2.1  背景介紹  237
9.2.2  問題描述  237
9.2.3  數據預處理  238
9.2.4  評價指標  239
9.2.5  多階段分級聚類框架  239
9.2.6  結果分析  241
9.2.7  總結  243
9.3  某種蛋白質電泳圖像的分類  244
9.3.1  背景介紹  244
9.3.2  問題描述  244
9.3.3  數據預處理  245
9.3.4  評價指標  245
9.3.5  模型構建  246
9.3.6  結果分析  247
9.3.7  總結  249
附錄  數學符號列表  250
參考文獻  252

隨著工業互聯網以及先進傳感器相關技術的快速發展，工業大數據已在眾多行業成為現實。工業大數據一般指由工業設備高速產生的化時間序列數據，廣泛應用於現代工業繫統的管理和優化。以美國通用電氣公司為例，其已經將工業大數據應用於風電場優化、采礦優化等領域。對於風電場優化，200多臺風機上裝載的上萬個傳感器以40ms為周期收集風電場各種特征數據，風電場的監控軟件再以1s的時間間隔處理每臺風機的200多個標簽，為現場運營團隊實現了近乎實時的風機健康狀況和性能評估；與此同時，風機數據每隔1min就會被傳輸到遠程監控中心，由數據科學家和工程師團隊分析單個風機和整個風電場的運行狀況，提前預測可能出現的關鍵故障。采礦優化主要是利用安裝在磨礦控制回路上的大量傳感器實現實時數據采集，再通過本地分析來優化每個磨礦回路的性能，從而優化礦廠的產量。盡管數據量和分析節拍與風電場不同，但是其分級處理機制和數據處理流程與風電場類似。
交通運輸行業的工業大數據分析和前兩個領域不同，其基本資產（例如飛機和貨車）都處於運動狀態，這些移動資產和數據中心之間的大量數據通信往往隻在資產到達目的地時發生，這就要求移動資產在運行過程中具有較高的自主處理能力，能夠高可靠地預測潛在的重大事件並實時上傳，而數據處理和調度中心必須能準確標記正在下載的潛在異常信息並對其進行實時分析，同時規劃好整個網絡的運輸能力。以上這些案例隻是工業大數據應用的縮影，工業大數據正在現代工業發展中發揮著越來越重要的作用。
隨著“制造強國”“質量強國”等繫列國家戰略的制定和實施，我國經濟正在脫虛向實高質量發展的道路上穩步前行。隨著我國工業互聯網和傳感技術的快速發展，工業大數據也已有相當積累。如何應用好這些大數據服務國家戰略是亟須解決的重要問題。以深度學習為代表的機器學習方法近年來在大數據分析中成為主流。眾多行業都開始應用機器學習對工業繫統大數據進行處理和分析，進而改進現有工作方式和工作流程。以工業產品質量檢測與控制為例，最初基於簡單的統計分析，後經多年發展，逐漸形成了以統計控制、統計推斷為主的質量檢測方法。近年來，大量的傳感器數據促使機器學習、深度學習等方法得以應用於質檢和品控，實現了端到端的智能檢測和故障預警。
機器學習與大數據相互依存，猶如一對孿生兄弟。機器學習是處理和分析大數據的主要工具，而大數據給機器學習提供了廣泛的應用場景。當前我國工業正處於轉型上升期，對工業大數據分析和機器學習方面的人纔需求巨大。在這一大的宏觀背景下，筆者認為有必要將機器學習的基礎知識、基本原理、主要方法和我們多年工業項目實踐中積累的大數據和豐富案例進行有機的融合，形成一個整體性的知識框架，並通過出版本教材，培養一批熟悉工業大數據處理和分析的人纔，服務我國工業的高質量發展。
本書介紹了機器學習領域的一些重要理論和常用方法，以及現行多數教材尚未明晰的一些關鍵知識點，同時還給出了這些機器學習方法在工業案例中的應用。全書分為9章。其中第1章為數學基礎知識的介紹；第2章為經典機器學習知識的講解，包括監督學習和無監督學習兩部分；第3章為深度學習，介紹了ANN、CNN、RNN、GAN四種神經網絡，同時提供了前沿的神經網絡閱讀材料；第4章為強化學習，包含經典的強化學習理論及深度強化學習，並簡要介紹強化學習的一些前沿應用；第5章介紹了數據處理相關知識；第6~9章分別給出了生產繫統、能源與電信繫統、交通繫統以及醫療繫統等十餘個工業案例。
除第1章數學基礎知識以外，每章都提供了案例，或來自於經典算例，如MNIST、CIFAR10數據集，或來自作者科研團隊的工業應用實踐，如高鐵、5G通信等。這些案例已在實際問題基礎上做了一定的簡化與脫密處理，其中所應用的知識覆蓋了日常使用的多種機器學習與數據處理方法，學好這些案例，足以完成大多數的工業大數據分析任務。為了方便讀者進行編程學習，書中所有案例都基於Python進行實現，項目代碼以二維碼的形式在相應章後體現，讀者可以根據需要掃碼下載和使用。
本書可以作為機械工程、工業工程、電子工程、電氣工程等工科專業高年級本科生與研究生相關課程的教學參考書。
本書得以完成，離不開錢敏、鄭文強、武慧、夏鑫、張晨、韓特等作出的重要貢獻，在此向他們表示衷心感謝。同時感謝華為技術有限公司、清華長庚醫院、中廣核集團以及西安鐵路局等企業為本書提供案例的背景素材或項目支持。
在編寫過程中雖然進行了多次審閱檢查，但由於編寫時間短，涉及案例範圍廣，且筆者水平有限，因此難免出現錯誤，敬請讀者批評指正。

編者
2023年5月