莊福振 北京航空航天大學教授，博士生導師，入選人纔計劃。在Nature Communications、 PIEEE、TKDE、KDD、IJCAI、AAAI、 WWW、ICDE等本領域、重要國際期刊和國際會議上發表錄用論文150多篇，其中CCF A類80多篇；Google學術引用9700餘次。2013年獲得中國人工智能學會優秀博士學位論文獎，2017入選中國科學院青年創新促進會。

朱勇椿 博士，長期致力於可靠人工智能研究及應用，在KDD、WWW、SIGIR、TKDE等國際學術會議和期刊發表文章28篇，Google學術引用3300餘次。公開或授權專利10餘項。提出的方法應用到多家公司，包括騰訊、螞蟻金服、美團、中科睿鋻等。參與三本遷移學習相關書籍的撰寫、翻譯工作。擔任KDD、WWW、AAAI、TKDE、TOIS等會議和期刊審稿人，獲得2022年百度獎學金。 

祝恆書 博士，北京市高端領軍人纔正高級工程師，BOSS直聘職業科學實驗室（CSL）主任。他長期致力於人工智能領域前沿科學研究及跨領域產業應用，在國際學術期刊和會議上發表論文百餘篇，授權國內外專利近百項，多次榮獲年度論文獎。他曾獲得中國管理科學學會“管理科學獎” 、教育*自然科學獎一等獎、中國人工智能學會優博、中國科學院優博、中國科學院院長特別獎等榮譽和獎項。

熊輝 香港科學技術大學（廣州）講座教授、協理副校長。他獲得的部分榮譽包括AAAS Fellow、IEEE Fellow、ACM傑出科學家、中國教育*長江講座教授、中國國家基金委海外傑青B類（海外及港澳學者合作研究基金）、Harvard Business Review 2018年“拉姆·查蘭管理實踐獎-全場大獎”、2017 IEEE ICDM Outstanding Service Award、ICDM-2011研究論文獎和AAAI-2021論文獎。 

目錄








序
前言
作者簡介


第1章緒論1

11遷移學習緣起1
12學習的遷移理論2
13遷移學習定義4
14遷移學習與已有學習範式的關繫5
15遷移學習未來的研究方向8


第2章基於非負矩陣分解的遷移學習算法10

21問題定義10
22基於共享詞簇的知識遷移11
23基於相似概念（共享詞簇-文檔簇關聯）的知識遷移12
24同時考慮相同和相似概念的知識遷移15
25綜合考慮相同、相似、差異概念的知識遷移17
26軟關聯的知識遷移21
27本章小結24
第3章基於概率模型的遷移學習算法26

31問題定義26
32基於EM算法的樸素貝葉斯遷移算法28
33基於概率潛在語義分析的主題共享領域遷移算法30
34基於協同對偶概率潛在語義分析的多域領域遷移33
35更普適的基於潛在語義分析的多域領域遷移36
36基於組對齊的跨領域標簽主題模型39
37基於粗粒度對齊主題模型的跨領域文本分類40
38本章小結42


第4章基於傳統深度學習的遷移學習方法43

41問題定義43
42基於深度自編碼器的遷移學習方法44
43深度領域自適應網絡45
44深度子領域自適應網絡48
45多表示自適應網絡51
46同時對齊分布和分類器的多源自適應方法54
47基於注意力特征圖的深度遷移學習方法57
48本章小結61


第5章基於對抗深度學習的遷移學習方法62

51問題定義64
52領域對抗神經網絡64
53同時遷移領域和任務的遷移學習方法67
54基於生成對抗網絡的像素級領域自適應方法70
55化分類器一致性的無監督領域自適應方法73
56循環一致對抗領域自適應方法77
57本章小結79
第6章基於模型融合的遷移學習算法80

61問題定義82
62基於Boosting的模型融合82
63有監督與無監督的融合88
64基於優化目標正則化的方法98
65基於錨點的集成學習101
66本章小結104


第7章基於圖神經網絡的遷移學習算法105

71問題定義106
72同質圖神經網絡的遷移學習算法106
73異質圖神經網絡的遷移學習算法114
74本章小結120


第8章多任務學習121

81問題定義122
82傳統多任務學習122
83基於深度神經網絡的多任務學習134
84本章小結141


第9章多視圖學習算法143

91問題定義143
92基於概率潛在語義分析的多視圖學習144
93基於間隔原則的多視圖學習148
94基於子空間聚類方法的多視圖學習155
95基於完整空間方法的多視圖學習159
96多任務多視圖學習164
97推薦繫統和人機對話領域的多視圖學習方法172
98本章小結180
第10章遷移學習應用181

101自然語言處理中的應用181
102計算機視覺中的應用187
103推薦繫統中的應用205
104金融風控中的應用215
105城市計算中的應用217
106本章小結230


第11章百度飛槳遷移學習應用實踐231

111深度學習框架介紹231
112遷移學習在視頻分類中的實踐案例233
113遷移學習在目標檢測中的實踐案例241
114本章小結249


參考文獻250

遷移學習是機器學習中一種新的學習範式，解決的是目標領域中隻有少量標記樣本，甚至沒有樣本的富有挑戰性的學習問題。在過去的十幾年裡，不管從算法、理論研究還是從實際場景應用來說，遷移學習都得到越來越廣泛的關注與研究。
國內外學者對遷移學習的研究已經有十幾年，並且提出了大量的遷移學習算法，但還沒有相關圖書針對這些算法從所采用的技術的角度進行繫統、深入的梳理和總結。本人從事遷移學習以及相關方面的研究將近十五年，一直想對遷移學習算法所采用的技術脈絡進行繫統梳理，方便學術界和工業界能夠較快地掌握各類遷移學習算法；另外，我們還將對已有的遷移學習代碼進行梳理，方便遷移學習相關的研究學者以及應用開發者進行研究和實踐。因此，本書試圖按照遷移學習采用的技術對遷移學習算法進行分類總結，以我們十幾年來的研究工作為基礎，擴展各類遷移學習算法的代表性工作進行介紹。具體來說，本書首先從遷移學習采用的技術出發，繫統介紹每一類遷移學習算法，包括基於非負矩陣分解、概率模型、傳統深度學習、對抗深度學習、模型融合以及圖神經網絡等的遷移學習算法，針對每一類算法介紹代表性的幾種工作，並從算法動機、算法原理、算法流程等方面進行重點介紹；然後針對遷移學習的應用場景，介紹典型的應用案例；後，介紹遷移學習在百度飛槳平臺上的實踐。本書旨在讓遷移學習或者相關領域的研究人員繫統地掌握遷移學習的各類算法，熟悉各類應用場景，進而為落地實踐提供指導和幫助。
本書從2021年7月開始撰寫，之所以能夠順利完成，我的團隊、學生、朋友，還有百度團隊付出了巨大的努力。在這裡我要特別感謝他們，包括孫瑩、秦川、朱勇椿、童逸琦、杜晨光、莊遠鑫、張釗、張嘯、姚開春、李爽、顧晶晶、祝恆書、畢然、張亞嫻、張翰迪、馬艷軍、於佃海、吳蕾等（排名不分先後），他們每一個人都為本書的撰寫付出了大量的時間和精力，再次感謝他們。我還要感謝香港科技大學的楊強教授，他為本書的撰寫給出了很多建設性意見。當然，本書的出版也離不開出版社編輯老師的辛勤付出，在這裡一並表示感謝。由於作者水平有限，本書完成初稿以後，雖然經歷過反復梳理和校對，書中難免還有一些問題和瑕疵。若有發現，請及時反饋給我（Email:zhuangfuzhen@buaaeducn）或出版社進行修正，不勝感激。