●譯者序
前言
致謝
章引言1
1.1傳統機器學習範式1
1.2案例3
1.3終身學習簡史7
1.4終身學習的定義9
1.5知識類型和關鍵挑戰14
1.6評估方法和大數據的角色17
1.7本書大綱18
第2章相關學習範式20
2.1遷移學習20
2.1.1結構對應學習21
2.1.2樸素貝葉斯遷移分類器22
2.1.3遷移學習中的深度學習23
2.1.4遷移學習與終身學習的區別24
2.2多任務學習25
2.2.1多任務學習中的任務相關性25
2.2.2GO-MTL：使用潛在基礎任務的多任務學習26
2.2.3多任務學習中的深度學習28
2.2.4多任務學習與終身學習的區別30
2.3在線學習30
2.4強化學習31
學習32
2.6小結34
第3章終身監督學習35
3.1定義和概述36
3.2基於記憶的終身學習37
3.2.1兩個基於記憶的學習方法37
3.2.2終身學習的新表達37
3.3終身神經網絡39
3.3.1MTL網絡39
3.3.2終身EBNN40
3.4ELLA：高效終身學習算法41
3.4.1問題設定41
3.4.2目標函數42
3.4.3解決個低效問題43
3.4.4解決第二個低效問題45
3.4.5主動的任務選擇46
3.5終身樸素貝葉斯分類47
3.5.1樸素貝葉斯文本分類47
3.5.2LSC的基本思想49
3.5.3LSC技術50
3.5.4討論52
3.學習的領域詞嵌入52
3.7小結和評估數據集54
第4章持續學習與災難性遺忘56
4.1災難性遺忘56
4.2神經網絡中的持續學習58
4.3無遺忘學習61
4.4漸進式神經網絡62
4.5彈性權重合並63
4.6iCaRL：增量分類器與表示學習65
4.6.1增量訓練66
4.6.2更新特征表示67
4.6.3為新類構建範例集68
4.6.4在iCaRL中完成分類68
4.7專家網關69
4.7.1自動編碼網關69
4.7.2測量訓練的任務相關性70
4.7.3為測試選擇最相關的專家71
4.7.4基於編碼器的終身學習71
4.8生成式重放的持續學習72
4.8.1生成式對抗網絡72
4.8.2生成式重放73
4.9評估災難性遺忘74
4.10小結和評估數據集75
第5章開放式學習79
5.1問題定義和應用80
5.2基於中心的相似空間學習81
5.2.1逐步更新CBS學習模型82
5.2.2測試CBS學習模型84
5.2.3用於未知類檢測的CBS學習84
5.3DOC：深度開放式分類87
5.3.1前饋層和一對其餘層87
5.3.2降低開放空間風險89
5.3.3DOC用於圖像分類90
5.3.4發現未知類90
5.4小結和評估數據集91
第6章終身主題建模93
6.1終身主題建模的主要思想93
6.2LTM：終身主題模型97
6.2.1LTM模型97
6.2.2主題知識挖掘99
6.2.3融合過去的知識100
6.2.4Gibbs采樣器的條件分布102
6.3AMC：少量數據的終身主題模型102
6.3.1AMC整體算法103
6.3.2挖掘must-link知識104
6.3.3挖掘cannot-link知識107
6.3.4擴展的Pólya甕模型108
6.3.5Gibbs采樣器的采樣分布110
6.4小結和評估數據集112
第7章終身信息提取114
7.1NELL：永不停止語言學習器114
7.1.1NELL結構117
7.1.2NELL中的提取器與學習118
7.1.3NELL中的耦合約束120
7.2終身評價目標提取121
7.2.1基於推薦的終身學習122
7.2.2AER算法123
7.2.3知識學習124
7.2.4使用過去知識推薦125
7.3在工作中學習126
7.3.1條件隨機場127
7.3.2一般依賴特征128
7.3.3L-CRF算法130
7.4Lifelong-RL：終身松弛標記法131
7.4.1松弛標記法132
7.4.2終身松弛標記法133
7.5小結和評估數據集133
第8章聊天機器人的持續知識學習135
8.1LiLi：終身交互學習與推理136
8.2LiLi的基本思想139
8.3LiLi的組件141
8.4運行示例142
8.5小結和評估數據集142
第9章終身強化學習144
9.1基於多環境的終身強化學習146
9.2層次貝葉斯終身強化學習147
9.2.1動機147
9.2.2層次貝葉斯方法148
9.2.3MTRL算法149
9.2.4更新層次模型參數150
9.2.5對MDP進行采樣151
9.3PG-ELLA：終身策略梯度強化學習152
9.3.1策略梯度強化學習152
9.3.2策略梯度終身學習設置154
9.3.3目標函數和優化154
9.3.4終身學習的安全策略搜索156
9.3.5跨領域終身強化學習156
9.4小結和評估數據集157
0章結論及未來方向159
參考文獻164