"《遷移學習導論》獨闢蹊徑，從初學者角度出發，以“講課”的形式，歸納分析各類遷移學習方法，使讀者能快速理解遷移學習的本質問題、抓住重點、舉一反三、迅速入門。《遷移學習導論》一大亮點是對“兩頭“的把握：一是源頭，抓問題和場景，做到“師出有名”，講清楚針對什麼問題、用在哪裡；二是筆頭，抓代碼與實踐，做到“落地結果”，在實戰中鞏固和深化對技術的理解。考慮多方位學習的需求，《遷移學習導論》配有實踐代碼、學習資料、相關筆記和近期新文章，並持續更新。一書入手，一步到位！"

●第一部分背景與概念
第1 章緒論3
1.1 遷移學習3
1.2 相關研究領域 6
1.3 遷移學習的必要性8
1.3.1 大數據與少標注之間的矛盾 8
1.3.2 大數據與弱計算能力的矛盾 8
1.3.3 有限數據與模型泛化能力的矛盾 9
1.3.4 普適化模型與個性化需求的矛盾 9
1.3.5 特定應用的需求10
1.4 遷移學習的研究領域 11
1.4.1 按特征空間分類12
1.4.2 按目標域有無標簽分類 12
1.4.3 按學習方法分類12
1.4.4 按離線與在線形式分類 13
1.5 遷移學習的應用14
1.5.1 計算機視覺14
1.5.2 自然語言處理 15
1.5.3 普適計算與人機交互16
1.5.4 醫療健康17
1.6 學術會議和工業界中的遷移學習 18
第2 章從機器學習到遷移學習21
2.1 機器學習及基本概念 21
2.2 結構風險最小化22
2.3 數據的概率分布23
2.4 概念與符號25
2.5 遷移學習的問題定義 26
第3 章遷移學習基本問題29
3.1 何處遷移30
3.2 何時遷移32
3.3 如何遷移32
3.4 失敗的遷移：負遷移 33
3.5 完整的遷移學習過程 35
第二部分方法與技術
第4 章遷移學習方法總覽39
4.1 遷移學習總體思路39
4.2 分布差異的度量40
4.2.1 百花齊放的遷移學習分布度量41
4.2.2 分布差異的統一表征42
4.2.3 分布自適應因子的計算 44
4.3 遷移學習統一表征45
4.3.1 樣本權重遷移法46
4.3.2 特征變換遷移法47
4.3.3 模型預訓練遷移法 48
4.3.4 小結 48
4.4 上手實踐48
4.4.1 數據準備49
4.4.2 基準模型構建：KNN 51
4.5 遷移學習理論 53
4.5.1 概念與符號54
4.5.2 基於H-divergence 的理論分析 54
4.5.3 基於HΔH-distance 的理論分析55
4.5.4 基於差異距離的理論分析57
4.5.5 結合標簽函數差異的理論分析58
第5 章樣本權重遷移法 59
5.1 問題定義59
5.1.1 樣本權重遷移法的可行性分析59
5.1.2 形式化定義60
5.2 基於樣本選擇的方法 61
5.2.1 基於非強化學習的樣本選擇法62
5.2.2 基於強化學習的樣本選擇法 63
5.3 基於權重自適應的方法 64
5.4 上手實踐66
5.5 小結68
第6 章統計特征變換遷移法 69
6.1 問題定義69
6.2 優選均值差異法70
6.2.1 基本概念70
6.2.2 基於優選均值差異的遷移方法72
6.2.3 求解與計算75
6.2.4 應用與擴展76
6.3 度量學習法78
6.3.1 從預定義的距離到可學習的距離 78
6.3.2 度量學習及其形式化79
6.3.3 基於度量學習的遷移學習80
6.4 上手實踐81
6.4.1 算法精煉81
6.4.2 編寫代碼82
6.5 小結84
第7 章幾何特征變換遷移法 85
7.1 問題定義85
7.2 子空間變換法 86
7.3 流形學習法87
7.3.1 流形學習87
7.3.2 基於流形學習的遷移學習方法88
7.4 很優傳輸法91
7.4.1 很優傳輸91
7.4.2 基於很優傳輸法的遷移學習方法 92
7.5 上手實踐94
7.6 小結97
第8 章預訓練方法99
8.1 深度網絡的可遷移性 99
8.2 預訓練–微調102
8.3 預訓練方法的有效性分析105
8.4 自適應的預訓練方法 106
8.5 重新思考預訓練模型的使用 108
8.6 上手實踐110
8.7 小結113
第9 章深度遷移學習115
9.1 總體思路116
9.2 深度遷移學習的網絡結構117
9.2.1 單流結構118
9.2.2 雙流結構118
9.3 數據分布自適應的深度遷移學習方法120
9.3.1 邊緣分布自適應120
9.3.2 條件、聯合與動態分布自適應121
9.4 結構自適應的深度遷移學習方法 122
9.4.1 批歸一化123
9.4.2 批歸一化用於遷移學習 123
9.4.3 基於多表示學習的遷移網絡結構 124
9.5 知識蒸餾125
9.6 上手實踐127
9.6.1 網絡結構127
9.6.2 損失 129
9.6.3 訓練 131
9.6.4 測試 132
9.7 小結133
第10 章對抗遷移學習135
10.1 生成對抗網絡 135
10.2 對抗遷移學習基本思路 136
10.3 數據分布自適應的對抗遷移方法137
10.4 基於信息解耦的對抗遷移方法 140
10.5 基於數據生成的對抗遷移方法 141
10.6 上手實踐 142
10.6.1 領域判別器143
10.6.2 分布差異計算 143
10.6.3 梯度反轉層144
10.7 小結 145
第11 章遷移學習熱門研究問題 147
11.1 類別不均衡的遷移學習 148
11.2 多源遷移學習 150
11.3 開放集遷移學習153
11.4 時間序列的遷移學習154
11.5 聯邦遷移學習 158
11.5.1 聯邦學習158
11.5.2 聯邦遷移學習 160
11.6 基於因果關繫的遷移學習161
11.6.1 什麼是因果關繫161
11.6.2 因果關繫與遷移學習163
11.7 自動遷移學習 168
11.8 在線遷移學習 171
第三部分擴展與探索
第12 章領域泛化177
12.1 領域泛化問題 177
12.1.1 背景177
12.1.2 問題定義179
12.1.3 常用方法180
12.2 基於數據分布自適應的方法181
12.2.1 領域無關成分分析DICA181
12.2.2 深度數據分布自適應183
12.3 基於解耦的方法184
12.4 基於集成模型的方法186
12.5 基於數據生成的方法187
12.5.1 領域隨機法187
12.5.2 對抗數據生成 188
12.6學習的方法 190
12.7 小結 191
第1學習193
13學習簡介193
13.1.1 問題背景193
13.1學習 194
13.2 基於學習方法 196
13.3 基於學習方法 198
13.4 基於學習方法 199
13學習的應用與挑戰201
13.5.1 應用201
13.5.2 現存的挑戰202
13.6 小結 202
第14 章遷移學習模型選擇205
14.1 模型選擇 205
14.2 基於密度估計的模型選擇206
14.3 遷移交叉驗證 207
14.4 小結 208
第四部分應用與展望
第15 章遷移學習的應用211
15.1 計算機視覺212
15.2 自然語言處理 214
15.3 語音識別與合成216
15.4 普適計算與人機交互218
15.5 醫療健康領域 220
15.6 其他應用 223
15.7 小結 225
第16 章遷移學習前沿227
16.1 融合人類經驗的遷移227
16.2 遷移強化學習 228
16.3 遷移學習的可解釋性228
16.4 遷移學習繫統 229
附錄A231
A.1 常用度量準則 231
A.1.1 常見的幾種距離231
A.1.2 餘弦相似度232
A.1.3 互信息 232
A.1.4 相關繫數232
A.1.5 KL 散度與JS 距離233
A.1.6 優選均值差異MMD 233
A.1.7 Principal Angle 234
A.1.8 A-distance234
A.1.9 希爾伯特–施密特獨立性繫數234
A.1.10 Wasserstein Distance234
A.2 遷移學習常用數據集235
A.2.1 手寫體識別圖像數據集 235
A.2.2 對像識別數據集236
A.2.3 圖像分類數據集237
A.2.4 通用文本分類數據集237
A.2.5 行為識別公開數據集238
A.3 本書相關資源 238
參考文獻241

遷移學習作為機器學習和人工智能領域的重要方法，在計算機視覺、自然語言處理、語音識別等領域都得到了廣泛的應用。本書的編寫目的是幫助遷移學習及機器學習相關領域的初學者快速入門。全書主要分為背景與概念、方法與技術、擴展與探索及應用與展望四大部分。除此之外，本書還配有相關的代碼、數據和論文資料，優選限度地降低初學者的學習和使用門檻。 本書適合對遷移學習感興趣的讀者閱讀，也可以作為相關課程的配套教材。

王晉東,陳益強 著