●章緒論
1.1引言
1.2基本術語
1.3監督學習算法
1.3.1支持向量機
1.3.2決策樹
1.4無監督學習算法
1.4.1主成分分析
1.4.2K-均值聚類
1.5機器學習
1.6深度學習的趨勢
1.6.1與日俱增的數據量
1.6.2愈發龐大的計算資源
1.6.3越來越高的性能以及解決實際問題的潛力
思考題
參考文獻
第2章TensorFlow和Keras簡介
2.1TensorFlow簡介
2.1.1概述
2.1.2TensorFlow的使用
2.1.3TensorFlow的可視化
2.2Keras簡介
2.2.1Keras概述
2.2.2Keras的使用
2.2.3Keras的可視化
思考題
參考文獻
第3章簡單神經網絡
3.1人腦是如何學習的
3.2模仿人腦—(感知器)
3.3非線
3.4神經網絡架構
3.5梯度下降
3.5.1代價函數
3.5.2梯度下降
3.6反向傳播
3.6.1多層神經網絡的數學表示
3.6.2反向傳播算法原理
3.7實現簡單神經網絡
思考題
參考文獻
第4章圖像類數據處理
4.1二維卷積神經網絡的基本原理
4.1.1卷積神經網絡的原理
4.1.2參數共享
4.1.3池化
4.1.4分類原理
4.2簡單卷積神經網絡實例
4.3過度擬合
4.3.1容量、過擬合與欠擬合的基本概念
4.3.2數據集增強
4.3.3L2正則化一
4.3.4L1正則化
4.3.5Dropout
4.3.6提前終止
4.4時間優化
4.4.1交叉熵代價函數
4.4.2批標準化
4.4.3隨機梯度下降
4.4.4動量
4.4.5Nesterov動量
4.5綜合二維卷積神經網絡實例
思考題
參考文獻
第5章序列類數據處理
5.1一維卷積神經網絡
5.1.1一維卷積神經網絡的原理
5.1.2一維卷積神經網絡實例
5.2循環神經網絡
5.2.1循環神經網絡的基本原理
5.2.2循環神經網絡的輸出
5.2.3上下文依賴型數據處理
5.2.4序列到序列的數據處理
5.3遞歸神經網絡
5.3.1遞歸神經網絡的基本原理
5.3.2長期依賴性
5.4長短期記憶LSTM網絡
5.4.1長短期記憶網絡的基本原理
5.4.2長短期記憶網絡工程實例
思考題
參考文獻
第6章深度學習模型優化
6.1參數初始化
6.2超參數尋優算法
6.2.1手動超參數尋優
6.2.2超參數尋優算法
6.3基於梯度的自適應學習算法
6.3.1AdaGrad算法一
6.3.2RMSProp算法
6.3.3Adam算法
6.4生成對抗神經網絡及實例
6.5遷移學習及實例
6.6強化學習
6.7模型優化的局限性
6.7.1局部極小值
6.7.2梯度消失、梯度爆炸與懸崖
6.7.3鞍點
6.7.4長期依賴
6.7.5梯度的非精確性
思考題
參考文獻
第7章數據和模型的處理與調試
7.1模型評價
7.2數據預處理
7.3基礎模型的選擇
7.4模型調試
思考題
參考文獻
第8章現代深度學習模型概述
8.1玻爾茲曼機
8.1.1標準玻爾茲曼機
8.1.2受限玻爾茲曼機
8.1.3深層玻爾茲曼機
8.2自編碼器
8.2.1標準自編碼器
8.2.2稀疏自編碼器
8.2.3降噪自編碼器
8.3深度信念網絡及實例
8.4殘差神經網絡及實例
8.5膠囊神經網絡及實例
思考題
參考文獻
附錄
附錄A基於深度學習的視頻目標跟蹤研究進展綜述
附錄BQ-Learning算法的參考代碼
內容簡介
深度學習理論由Hinton等人於2006年提出,其概念源於對人工神經網絡的研究。深度學習技術通過組合數據的低層特征形成更加抽像的高層屬性,以發現數據的分布式特征表示。本書主要闡述基於深度學習理論的一些模型和算法。全書共分為8章,主要內容包括緒論、TensorFlow和Keras簡介、簡單神經網絡、圖像類數據處理、序列類數據處理、深度學習模型優化、數據和模型的處理與調試、現代深度學習模型概述。附錄給出了基於深度學習的視頻目標跟蹤研究進展綜述和Q-Learning算法的參考代碼。為便於學習和參考,各章均包含豐富的思考題。本書主要面向工科院校人工智能、模式識別、數據挖掘和深度學習等專業的本科生,也可供相關專業的研究生和工程技術人員參考。