特征工程是數據科學和機器學習流水線上的重要一環，包括識別、清洗、構建和發掘數據的特征，為進一步解釋數據並進行預測性分析做準備。

本書囊括了特征工程的全流程，從數據檢查到可視化，再到轉換和進一步處理等，並給出了大量數學工具，幫助讀者掌握如何將數據處理、轉換成適當的形式，以便送入計算機和機器學習流水線中進行處理。後半部分的特征工程實踐用Python作為示例語言，循序漸進，通俗易懂。

- 識別和利用不同類型的特征
- 清洗數據中的特征，提升預測能力
- 為何、如何進行特征選擇和模型誤差分析
- 利用領域知識構建新特征
- 基於數學知識交付特征
- 使用機器學習算法構建特征
- 掌握特征工程與特征優化
- 在現實應用中利用特征工程

本書將帶你了解特征工程的完整過程，使機器學習更加繫統、高效。你會從理解數據開始學習，機器學習模型的成功正是取決於如何利用不同類型的特征，例如連續特征、分類特征等。你將了解何時納入一項特征、何時忽略一項特征，以及其中的原因。你還會學習如何將問題陳述轉換為有用的新特征，如何提供由商業需求和數學見解驅動的特征，以及如何在自己的機器上進行機器學習，從而自動學習數據中的特征。

錫南·阨茲代米爾（Sinan Ozdemir）

數據科學家、數學家、約翰·霍普金斯大學講師，Kylie.ai公司聯合創始人、CTO，在應用數據挖掘、功能分析和算法開發做出基於數據和知識的決策方面擁有豐富的經驗。

迪夫婭·蘇薩拉（Divya Susarla）

在利用數據方面經驗豐富，在包括投資管理、社會企業咨詢和紅9營銷的各個產業和領域裡實現並應用過相應的策略。Kylie.ai公司產品經理，目前專注於自然語言處理和生成技術。

第 1章特征工程簡介1
1．1激動人心的例子：AI驅動的聊天1
1．2特征工程的重要性2
1．3特征工程是什麼5
1．4機器學習算法和特征工程的評估9
1．4．1特征工程的例子：真的有人能預測天氣嗎10
1．4．2特征工程的評估步驟10
1．4．3評估監督學習算法11
1．4．4評估無監督學習算法11
1．5特征理解：我的數據集裡有什麼12
1．6特征增強：清洗數據13
1．7特征選擇：對壞屬性說不14
1．8特征構建：能生成新特征嗎14
1．9特征轉換：數學顯神通15
1．10特征學習：以AI促AI16
1．11小結17
第2章 特征理解：我的數據集裡有什麼19
2．1數據結構的有無19
2．2定量數據和定性數據20
2．3數據的4個等級25
2．3．1定類等級26
2．3．2定序等級27
2．3．3定距等級30
2．3．4定比等級36
2．4數據等級總結38
2．5小結40
第3章特征增強：清洗數據41
3．1識別數據中的缺失值41
3．1．1皮馬印第安人糖尿病預測數據集42
3．1．2探索性數據分析42
3．2處理數據集中的缺失值48
3．2．1刪除有害的行50
3．2．2填充缺失值54
3．2．3在機器學習流水線中填充值57
3．3標準化和歸一化61
3．3．1z分數標準化63
3．3．2min-max標準化67
3．3．3行歸一化68
3．3．4整合起來69
3．4小結70
第4章特征構建：我能生成新特征嗎71
4．2填充分類特征72
4．2．1自定義填充器74
4．2．2自定義分類填充器74
4．2．3自定義定量填充器76
4．3編碼分類變量77
4．3．1定類等級的編碼77
4．3．2定序等級的編碼79
4．3．3將連續特征分箱80
4．3．4創建流水線82
4．4擴展數值特征83
4．4．1根據胸部加速度計識別動作的數據集83
4．4．2多項式特征86
4．5針對文本的特征構建89
4．5．1詞袋法89
4．5．2CountVectorizer90
4．5．3TF-IDF向量化器94
4．5．4在機器學習流水線中使用文本95
4．6小結97
第5章特征選擇：對壞屬性說不98
5．1在特征工程中實現更好的性能99
5．2創建基準機器學習流水線103
5．3特征選擇的類型106
5．3．1基於統計的特征選擇106
5．3．2基於模型的特征選擇117
5．4選用正確的特征選擇方法125
5．5小結125
第6章特征轉換：數學顯神通127
6．1維度縮減：特征轉換、特征選擇與特征構建129
6．2主成分分析130
6．2．1PCA的工作原理131
6．2．2鳶尾花數據集的PCA——手動處理131
6．2．3scikit-learn的PCA137
6．2．4中心化和縮放對PCA的影響144
6．3線性判別分析148
6．3．1LDA的工作原理149
6．3．2在scikit-learn中使用LDA152
6．4LDA與PCA：使用鳶尾花數據集157
6．5小結160
第7章特征學習：以AI促AI161
7．1數據的參數假設161
7．1．1非參數謬誤163
7．1．2本章的算法163
7．2受限玻爾茲曼機163
7．2．1不一定降維164
7．2．2受限玻爾茲曼機的圖164
7．2．3玻爾茲曼機的限制166
7．2．4數據重建166
7．2．5MNIST數據集167
7．3伯努利受限玻爾茲曼機169
7．3．1從MNIST中提取PCA主成分170
7．3．2從MNIST中提取RBM特征177
7．4．1對原始像素值應用線性模型178
7．4．3對提取的RBM特征應用線性模型179
7．5學習文本特征：詞向量180
7．5．1詞嵌入180
7．5．2兩種詞嵌入方法：Word2vec和GloVe182
7．5．3Word2vec：另一個淺層神經網絡182
7．5．4創建Word2vec詞嵌入的gensim包183
7．5．5詞嵌入的應用：信息檢索186
7．6小結190
第8章案例分析191
8．1案例1：面部識別191
8．1．1面部識別的應用191
8．1．2數據192
8．1．3數據探索193
8．1．4應用面部識別195
8．2案例2：預測酒店評論數據的主題200
8．2．1文本聚類的應用200
8．2．2酒店評論數據200
8．2．3數據探索201
8．2．4聚類模型203
8．2．5SVD與PCA主成分204
8．2．6潛在語義分析206
8．3小結210