●前言
9 深度置信網絡和深度玻爾茲曼機
9.1 深度置信網絡和深度玻爾茲曼機的起源
9.1.1 玻爾茲曼機
9.1.2 受限玻爾茲曼機
9.2 模型參數學習
9.2.1 吉布斯采樣
9.2.2 對比散列算法
9.3 深度置信網絡
9.3.1 深度置信網絡模型
9.3.2 深度置信網絡訓練
9.4 深度玻爾茲曼機
9.4.1 深度玻爾茲曼機模型
9.4.2 深度玻爾茲曼機參數學習
9.5 深度置信網絡和深度玻爾茲曼機的應用
9.5.1 深度置信網絡的應用
9.5.2 深度玻爾茲曼機的應用
9.6 閱讀材料
參考文獻
10 自編碼器
10.1 自編碼器介紹
10.1.1 自編碼器的結構
10.1.2 自編碼器的訓練
10.2 深度自編碼器
10.3 自編碼器的變形
10.3.1 稀疏自編碼器
10.3.2 降噪自編碼器
10.3.3 收縮自編碼器
10.3.4 掩碼自編碼器
10.3.5 其他自編碼器
10.4 變分自編碼器
10.4.1 變分推斷
10.4.2 詳解變分自編碼器
10.5 變分自編碼器的變形
10.5.1 半監督變分自編碼器
10.5.2 反向自回歸流變分自編碼器
10.5.3 信息優選化變分自編碼器
10.5.4 優選均值差異變分自編碼器
10.5.5 向量量化變分自編碼器
10.5.6 降噪變分自編碼器
10.5.7 梯形變分自編碼器
10.6 變分自編碼器的應用
10.6.1 機器翻譯
10.6.2 文本分類
10.7 閱讀材料
參考文獻
11 生成對抗網絡
11.1 原始生成對抗網絡
11.1.1 生成對抗網絡的基本結構
11.1.2 深入理解生成對抗網絡
11.1.3 原始生成對抗網絡中的問題
11.2 生成對抗網絡的發展
11.2.1 深度卷積生成對抗網絡
11.2.2 基於Wasserstein距離的生成對抗網絡
11.2.3 加罰項的基於Wasserstein距離的生成對抗網絡
11.2.4 帶有一致化項的生成對抗網絡
11.2.5 損失敏感的生成對抗網絡
11.2.6 信息優選化生成對抗網絡
11.3 生成對抗網絡的訓練
11.3.1 訓練生成對抗網絡的問題與發展
11.3.2 訓練生成對抗網絡的一些技巧
11.3.3 漸進增大方式訓練生成對抗網絡
11.3.4 生成對抗網絡的譜歸一化
11.3.5 通過原始-對偶次梯度方法訓練生成對抗網絡
11.3.6 用優化鏡像下降的方法訓練生成對抗網絡
11.3.7 一階懲罰生成對抗網絡
11.4 深度生成模型的聯合模型
11.4.1 對抗變分貝葉斯方法
11.4.2 建立深度生成模型之間的原則性聯繫
11.4.3 對抗自編碼器
11.4.4 Wasserstein自編碼器
11.5 很優傳輸理論與生成對抗網絡
11.5.1 從很優傳輸理論到生成模型
11.5.2 利用很優傳輸理論改善生成對抗網絡
11.6 生成對抗網絡的評估
11.6.1 幾何評分:一種比較樣本的方法
11.6.2 調節生成器對生成對抗網絡性能的影響
11.7 生成對抗網絡的其他模型
11.8 生成對抗網絡的應用
11.8.1 圖像的生成與操作
11.8.2 文本
11.9 早期的對抗模型
11.10 生成對抗網絡的總結
11.11 閱讀材料
參考文獻
12 像素級生成模型
12.1 PixelCNN
12.1.1 PixelCNN介紹
12.1.2 mask卷積
12.1.3 盲點問題
12.2 PixelRNN
12.2.1 行LSTM PixelRNN
12.2.2 對角線BiLSTM PixelRNN
12.3 門PixelCNN
12.4 條件PixelCNN
12.5 PixelVAE
12.6 PixelGAN
12.7 閱讀材料
參考文獻
13 深度聚類
13.1 聚類概述
13.1.1 傳統聚類與深度聚類之間的關繫
13.1.2 深度聚類模型結構
13.1.3 深度聚類損失函數
13.1.4 簇的更新策略
13.2 深度嵌入聚類算法
13.2.1 自編碼器與聚類結合
13.2.2 變分自編碼器與聚類的結合
13.2.3 梯子網絡與聚類的結合
13.2.4 卷積神經網絡與聚類的結合
13.3 深度譜聚類
13.4 深度子空間聚類
13.5 閱讀材料
參考文獻
14 深度強化學習
14.1 基於值函數的深度強化學習
14.1.1 深度Q網絡
14.1.2 雙重深度Q網絡
14.1.3 優先化經驗回放的深度Q網絡
14.1.4 基於競爭網絡架構的深度Q網絡
14.2 基於策略搜索的深度強化學習
14.2.1 深度確定性策略梯度算法
14.2.2 異步的優勢行動者-評論家算法
14.3 基於模型的深度強化學習
14.3.1 AlphaGo發展史
14.3.2 AlphaGo原理介紹
14.4 深度強化學習的應用
14.5 深度強化學習的未來
14.6 閱讀材料
參考文獻
15 深度學習的可解釋性
15.1 可解釋性概述
15.1.1 什麼是可解釋性
15.1.2 可解釋的必要性
15.1.3 可解釋性研究進展
15.2 可視化
15.2.1 可視化方法分類
15.2.2 特征可視化
15.2.3 關繫可視化
15.2.4 過程可視化
15.3 深度學
本書對所有主要的深度學習方法和近期新研究趨勢進行了深入探索。全書分為上下兩卷,五個部分。上卷包括兩個部分:第一部分是基礎算法,包括機器學習基礎算法、早期神經網絡算法、深度學習的正則化方法和深度學習的優化方法;第二部分是判別式模型,包括卷積神經網絡(CNN)、循環神經網絡(RNN)、長短期記憶模型(LSTM)、注意力機制和記憶網絡。下卷包括三個部分:第三部分是生成式模型,包括深度置信網絡/深度玻爾茲曼機、自編碼器(AE)/變分自編碼器(VAE)、生成對抗網絡(GAN)、像素級生成、深度聚類等;第四部分是前沿技術,討論深度強化學習;第五部分是安全保障,包括深度學習的可解釋性和對抗樣本的攻擊與防御。本書特別注重學術前沿,對包括膠囊網絡在內的當前近期新成果進行了細致的討論。全書構建了一套明晰的深度學習體繫,同時各章內容相對獨立,並有輔助網站(http://deeplearningresou等