1.機器學習入門手冊《機器學習精講》姊妹篇，人工智能和機器學習領域專業人士的多年實踐結晶，深入淺出講解機器學習應用和工程實踐。
2.繫統闡釋利用機器學習大規模地解決業務問題，涉及項目準備工作、數據收集、特征工程、監督模型訓練、模型評估、模型部署，以及模型服務、監測和維護等全流程
3.從零開始講解，分任務、分步驟的介紹機器學習項目，展示項目完整設計過程。
4.理論實踐相結合側重於討論多種實際應用場景，幫助讀者應用到實際開發中。
5.人工智能和機器學習領域專業人士Cassie Kozyrkov、Karolis Urbonas作序推薦。

本書是人工智能和機器學習領域專業多年實踐的結晶，深入淺出講解機器學習應用和工程實踐，是對機器學習工程實踐和設計模式的繫統回顧。全書分別從項目前的準備，數據收集和準備，特征工程，監督模型訓練，模型評估，模型服務、監測和維護等方面講解，由淺入深剖析機器學習實踐過程中遇到的問題，幫助讀者快速掌握機器學習工程實踐和設計模式的基本原理與方法。
本書內容安排合理，架構清晰，理論與實踐相結合，適合想要從事機器學習項目的數據分析師、機器學習工程師以及機器學習相關專業的學生閱讀，也可供需要處理模型的軟件架構師參考。

安德烈·布可夫（Andriy Burkov），人工智能和機器學習領域專業人士，擁有人工智能博士學位，尤其擅長自然語言處理、機器學習、信息檢索等。目前，他是高德納（Gartner）咨詢公司機器學習開發團隊的主管。該團隊的主要工作是，使用淺層和深度學習技術，開發可用於生產環境的、先進的多語言文字抽取和標準化繫統。著有本書的姊妹篇《機器學習精講》。

目錄
第1章 概述1
1．1符號和定義1
1．1．1數據結構1
1．1．2大寫西格瑪記法3
1．2什麼是機器學習3
1．2．1監督學習4
1．2．2無監督學習5
1．2．3半監督學習6
1．2．4強化學習6
1．3數據和機器學習術語6
1．3．1直接和間接使用的數據7
1．3．2原始數據和規整數據7
1．3．3訓練集和留出集8
1．3．4基線9
1．3．5機器學習流水線9
1．3．6參數與超參數10
1．3．7分類與回歸10
1．3．8基於模型學習與基於實例學習11
1．3．9淺層學習與深度學習的比較11
1．3．10訓練與評分11
1．4何時使用機器學習11
1．4．1如果問題太復雜，無法進行編程12
1．4．2如果問題不斷變化12
1．4．3如果它是一個感知問題13
1．4．4如果它是一種未曾研究過的現像13
1．4．5如果問題的目標簡單14
1．4．6如果它有成本效益14
1．5何時不使用機器學習14
1．6什麼是機器學習工程15
1．7機器學習項目生命周期16
1．8小結17
第2章 項目開始前19
2．1機器學習項目的優先級排序19
2．1．1機器學習的影響19
2．1．2機器學習的成本20
2．2估計機器學習項目的復雜度21
2．2．1未知因素21
2．2．2簡化問題21
2．2．3非線性進展22
2．3確定機器學習項目的目標22
2．3．1模型能做什麼22
2．3．2成功模型的屬性23
2．4構建機器學習團隊24
2．4．1兩種文化24
2．4．2機器學習團隊的成員25
2．5機器學習項目為何失敗26
2．5．1缺乏有經驗的人纔26
2．5．2缺乏領導層的支持26
2．5．3數據基礎設施缺失27
2．5．4數據標簽的挑戰27
2．5．5谷倉式組織和缺乏協作28
2．5．6技術上不可行的項目28
2．5．7技術團隊和業務團隊之間缺乏協調28
2．6小結29
第３章數據收集和準備31
3．1關於數據的問題31
3．1．1數據是否可獲得31
3．1．2數據是否相當大32
3．1．3數據是否可用34
3．1．4數據是否可理解35
3．1．5數據是否可靠36
3．2數據的常見問題37
3．2．1高成本37
3．2．2質量差39
3．2．3噪聲39
3．2．4偏差40
3．2．5預測能力低45
3．2．6過時的樣本45
3．2．7離群值46
3．2．8數據洩露47
3．3什麼是好數據48
3．3．1好數據是有信息的48
3．3．2好數據有好的覆蓋面48
3．3．3好數據反映真實的輸入48
3．3．4好數據沒有偏差49
3．3．5好數據不是反饋環路的結果49
3．3．6好數據有一致的標簽49
3．3．7好數據足夠大49
3．3．8好數據總結50
3．4處理交互數據50
3．5數據洩露的原因51
3．5．1目標是一個特征的函數51
3．5．2特征隱藏目標52
3．5．3特征來自未來52
3．6數據劃分53
3．7處理缺失的屬性55
3．7．1數據填補技術55
3．7．2填補過程中的洩露問題57
3．8數據增強57
3．8．1圖像的數據增強57
3．8．2文本的數據增強59
3．9處理不平衡的數據60
3．9．1過采樣60
3．9．2欠采樣62
3．9．3混合策略62
3．10數據采樣策略63
3．10．1簡單隨機采樣63
3．10．2繫統采樣64
3．10．3分層采樣64
3．11存儲數據64
3．11．1數據格式65
3．11．2數據存儲級別66
3．11．3數據版本化68
3．11．4數據69
3．11．5數據生命周期70
3．12數據處理最佳實踐70
3．12．1可重復性70
3．12．2數據第 一，算法第二70
3．13小結71
第４章特征工程73
4．1為什麼要進行特征工程73
4．2如何進行特征工程74
4．2．1文本的特征工程74
4．2．2為什麼詞袋有用77
4．2．3將分類特征轉換為數字78
4．2．4特征哈希80
4．2．5主題建模81
4．2．6時間序列的特征85
4．2．7發揮你的創造力88
4．3疊加特征88
4．3．1疊加特征向量88
4．3．2疊加單個特征89
4．4好特征的屬性90
4．4．1高預測能力90
4．4．2快速計算能力90
4．4．3可靠性91
4．4．4不相關91
4．4．5其他屬性91
4．5特征選擇92
4．5．1切除長尾92
4．5．2Boruta93
4．5．3L1正則化95
4．5．4特定任務的特征選擇95
4．6合成特征96
4．6．1特征離散化96
4．6．2從關繫數據中合成特征97
4．6．3通過數據合成特征99
4．6．4通過其他特征合成特征99
4．7從數據中學習特征100
4．7．1單詞嵌入100
4．7．2文檔嵌入102
4．7．3任何東西的嵌入103
4．7．4選擇嵌入維度104
4．8降維104
4．8．1用PCA快速降維104
4．8．2用於可視化的降維105
4．9縮放特征105
4．9．1歸一化105
4．9．2標準化106
4．10特征工程中的數據洩露問題107
4．10．1可能出現的問題107
4．10．2解決方案107
4．11存儲特征和編寫文檔108
4．11．1模式文件108
4．11．2特征商店109
4．12特征工程最佳實踐112
4．12．1生成許多簡單的特征112
4．12．2復用遺留繫統112
4．12．3在需要時使用ID作為特征112
4．12．4但在可能時要減少基數113
4．12．5謹慎使用計數113
4．12．6必要時進行特征選擇114
4．12．7認真測試代碼114
4．12．8保持代碼、模型和數據的同步性115
4．12．9隔離特征提取代碼115
4．12．10將模型和特征提取器序列化在一起115
4．12．11記錄特征的值115
4．13小結115
第5章監督模型訓練（第 一部分）117
5．1開始模型工作之前117
5．1．1驗證模式一致性117
5．1．2定義可實現的表現水平118
5．1．3選擇表現指標118
5．1．4選擇正確的基線118
5．1．5將數據分成三個集121
5．1．6監督學習的前提條件122
5．2為機器學習表示標簽122
5．2．1多類分類122
5．2．2多標簽分類123
5．3選擇學習算法124
5．3．1學習算法的主要屬性124
5．3．2算法抽查125
5．4建立流水線126
5．5評估模型表現127
5．5．1回歸的表現指標128
5．5．2分類的表現指標128
5．5．3排名的表現指標134
5．6超參數調整137
5．6．1網格搜索137
5．6．2隨機搜索138
5．6．3由粗到精搜索139
5．6．4其他技術140
5．6．5交叉驗證140
5．7淺層模型訓練141
5．7．1淺層模型訓練策略141
5．7．2保存和恢復模型142
5．8偏差-方差折中143
5．8．1欠擬合143
5．8．2過擬合143
5．8．3折中145
5．9正則化146
5．9．1L1和L2正則化147
5．9．2其他形式的正則化147
5．10小結148
第6章監督模型訓練（第二部分）150
6．1深度模型訓練策略150
6．1．1神經網絡訓練策略151
6．1．2表現指標和成本函數151
6．1．3參數初始化策略153
6．1．4優化算法154
6．1．5學習率衰減安排表158
6．1．6正則化159
6．1．7網絡規模搜索和超參數調整160
6．1．8處理多個輸入162
6．1．9處理多個輸出162
6．1．10遷移學習163
6．2堆疊模型165
6．2．1集成學習的類型165
6．2．2模型堆疊的一種算法166
6．2．3模型堆疊中的數據洩露問題167
6．3應對分布偏移167
6．3．1分布偏移的類型167
6．3．2對抗驗證168
6．4處理不平衡數據集168
6．4．1類權重169
6．4．2重采樣數據集的集成169
6．4．3其他技術170
6．5模型校準170
6．5．1良好校準的模型171
6．5．2校準技術172
6．6故障排除與誤差分析172
6．6．1模範行為不良的原因173
6．6．2迭代模型的細化173
6．6．3誤差分析174
6．6．4復雜繫統的誤差分析175
6．6．5使用切片指標177
6．6．6修復錯誤的標簽177
6．6．7尋找其他的樣本來標記177
6．6．8深度學習的故障排除178
6．7最佳實踐179
6．7．1提供一個好模型180
6．7．2信任流行的開源實現方式180
6．7．3優化業務特定的表現指標180
6．7．4從頭開始升級180
6．7．5避免修正級聯181
6．7．6謹慎使用模型級聯181
6．7．7編寫高效的代碼、編譯和並行化182
6．7．8對較新和較舊數據都進行測試183
6．7．9更多的數據勝過更聰明的算法183
6．7．10新數據勝過巧妙的特征184
6．7．11擁抱微小進步184
6．7．12促進可重復性184
6．8小結185
第7章模型評估187
7．1離線和在線評估188
7．2A/B測試190
7．2．1G檢驗190
7．2．2Z檢驗193
7．2．3結語和警告195
7．3多臂老虎機195
7．4模型表現的統計界限198
7．4．1分類誤差的統計區間199
7．4．2自舉法統計區間199
7．4．3回歸的自舉法預測區間201
7．5評估測試集的充分性201
7．5．1覆蓋率201
7．5．2突變測試202
7．6模型屬性的評估202
7．6．1健壯性203
7．6．2公平性203
7．7小結204
第8章模型部署206
8．1靜態部署206
8．2在用戶設備上動態部署207
8．2．1模型參數的部署207
8．2．2序列化對像的部署208
8．2．3部署到瀏覽器上208
8．2．4優點和缺點208
8．3在服務器上動態部署209
8．3．1在虛擬機上部署209
8．3．2在容器中部署210
8．3．3無服務器部署211
8．3．4模型流212
8．4部署策略214
8．4．1單一部署214
8．4．2靜默部署215
8．4．3金絲雀部署215
8．4．4多臂老虎機216
8．5自動部署、版本數據216
8．5．1模型附帶資產216
8．5．2版本同步216
8．5．3模數據217
8．6模型部署最佳實踐217
8．6．1算法效率218
8．6．2深度模型的部署221
8．6．3緩存221
8．6．4模型和代碼的交付格式222
8．6．5從一個簡單的模型開始224
8．6．6對外測試225
8．7小結225
第9章模型服務、監測和維護227
9．1模型服務運行時的屬性227
9．1．1安全性和正確性227
9．1．2部署的方便性228
9．1．3模型有效性的保證228
9．1．4易於恢復229
9．1．5避免訓練/服務偏離229
9．1．6避免隱藏反饋環路229
9．2模型服務模式230
9．2．1批量模式服務230
9．2．2對人按需服務231
9．2．3對機器按需服務232
9．3現實世界中的模型服務233
9．3．1為錯誤做好準備233
9．3．2處理錯誤234
9．3．3做好準備，應對變化236
9．3．4做好準備，應對人性237
9．4模型監測238
9．4．1什麼會出問題238
9．4．2監測的內容和方法239
9．4．3記錄什麼日志241
9．4．4監測濫用情況242
9．5模型維護243
9．5．1何時更新243
9．5．2如何更新244
9．6小結246
第10章 結論249
10．1學習收獲249
10．2後續閱讀253
10．3致謝253