1.日本深度學習入門經典暢銷書，原版上市不足2年印刷已達100 000冊。長期位列日亞“人工智能”類圖書榜首，眾多五星好評。2.使用Python 3，盡量不依賴外部庫或工具，從零創建一個深度學習模型。3.示例代碼清晰，源代碼可下載，需要的運行環境非常簡單。讀者可以一邊讀書一邊執行程序，簡單易上手。4.使用平實的語言，結合直觀的插圖和具體的例子，將深度學習的原理掰開揉碎講解，簡明易懂。5.使用計算圖介紹復雜的誤差反向傳播法，非常直觀。6.相比AI“花書”，本書更合適入門。對於非AI方等

●譯者序xiii
前言xv
第1章Python入門1
1．1Python是什麼1
1．2Python的安裝2
1．2．1Python版本2
1．2．2使用的外部庫2
1．2．3Anaconda發行版3
1．3Python解釋器4
1．3．1算術計算4
1．3．2數據類型5
1．3．3變量5
1．3．4列表6
1．3．5字典7
1．3．6布爾型7
1．3．7if語句8
1．3．8for語句8
1．3．9函數9
1．4Python腳本文件9
1．4．1保存為文件9
1．4．2類10
1．5NumPy11
1．5．1導入NumPy11
1．5．2生成NumPy數組12
1．5．3NumPy的算術運算12
1．5．4NumPy的N維數組13
1．5．5廣播14
1．5．素15
1．6Matplotlib16
1．6．1繪制簡單圖形16
1．6．2pyplot的功能17
1．6．3顯示圖像18
1．7小結19
第2章感知機21
2．1感知機是什麼21
2．2簡單邏輯電路23
2．2．1與門23
2．2．2與非門和或門23
2．3感知機的實現25
2．3．1簡單的實現25
2．3．2導入權重和偏置26
2．3．3使用權重和偏置的實現26
2．4感知機的局限性28
2．4．1異或門28
2．4．2線性和非線性30
2．5多層感知機31
2．5．1已有門電路的組合31
2．5．2異或門的實現33
2．6從與非門到計算機35
2．7小結36
第3章神經網絡37
3．1從感知機到神經網絡37
3．1．1神經網絡的例子37
3．1．2復習感知機38
3．1．3激活函數登場40
3．2激活函數42
3．2．1sigmoid函數42
3．2．2階躍函數的實現43
3．2．3階躍函數的圖形44
3．2．4sigmoid函數的實現45
3．2．5sigmoid函數和階躍函數的比較46
3．2．6非線性函數48
3．2．7ReLU函數49
3．3多維數組的運算50
3．3．1多維數組50
3．3．2矩陣乘法51
3．3．3神經網絡的內積55
3．43層神經網絡的實現56
3．4．1符號確認57
3．4．2各層間信號傳遞的實現58
3．4．3代碼實現小結62
3．5輸出層的設計63
3．5．1恆等函數和softmax函數64
3．5．2實現softmax函數時的注意事項66
3．5．3softmax函數的特征67
3．5．4輸出層數量68
3．6手寫數字識別69
3．6．1MNIST數據集70
3．6．2神經網絡的推理處理73
3．6．3批處理75
3．7小結79
第4章神經網絡的學習81
4．1從數據中學習81
4．1．1數據驅動82
4．1．2訓練數據和測試數據84
4．2損失函數85
4．2．1均方誤差85
4．2．2交叉熵誤差87
4．2．3mini-batch學習88
4．2．4mini-batch版交叉熵誤差的實現91
4．2．5為何要設定損失函數92
4．3數值微分94
4．3．1導數94
4．3．2數值微分的例子96
4．3．3偏導數98
4．4梯度100
4．4．1梯度法102
4．4．2神經網絡的梯度106
4．5學習算法的實現109
4．5．12層神經網絡的類110
4．5．2mini-batch的實現114
4．5．3基於測試數據的評價116
4．6小結118
第5章誤差反向傳播法121
5．1計算圖121
5．1．1用計算圖求解122
5．1．2局部計算124
5．1．3為何用計算圖解題125
5．2鏈式法則126
5．2．1計算圖的反向傳播127
5．2．2什麼是鏈式法則127
5．2．3鏈式法則和計算圖129
5．3反向傳播130
5．3．1加法節點的反向傳播130
5．3．2乘法節點的反向傳播132
5．3．3蘋果的例子133
5．4簡單層的實現135
5．4．1乘法層的實現135
5．4．2加法層的實現137
5．5激活函數層的實現139
5．5．1ReLU層139
5．5．2Sigmoid層141
5．6Affine/Softmax層的實現144
5．6．1Affine層144
5．6．2批版本的Affine層148
5．6．3Softmax-with-Loss層150
5．7誤差反向傳播法的實現154
5．7．1神經網絡學習的全貌圖154
5．7．2對應誤差反向傳播法的神經網絡的實現155
5．7．3誤差反向傳播法的梯度確認158
5．7．4使用誤差反向傳播法的學習159
5．8小結161
第6章與學習相關的技巧163
6．1參數的更新163
6．1．1探險家的故事164
6．1．2SGD164
6．1．3SGD的缺點166
6．1．4Momentum168
6．1．5AdaGrad170
6．1．6Adam172
6．1．7使用哪種更新方法呢174
6．1．8基於MNIST數據集的更新方法的比較175
6．2權重的初始值176
6．2．1可以將權重初始值設為0嗎176
6．2．2隱藏層的激活值的分布177
6．2．3ReLU的權重初始值181
6．2．4基於MNIST數據集的權重初始值的比較183
6．3BatchNormalization184
6．3．1BatchNormalization的算法184
6．3．2BatchNormalization的評估186
6．4正則化188
6．4．1過擬合189
6．4．2權值衰減191
6．4．3Dropout192
6．5超參數的驗證195
6．5．1驗證數據195
6．5．2超參數的很優化196
6．5．3超參數很優化的實現198
6．6小結200
第7章卷積神經網絡201
7．1整體結構201
7．2卷積層202
7．2．1全連接層存在的問題203
7．2．2卷積運算203
7．2．3填充206
7．2．4步幅207
7．2．53維數據的卷積運算209
7．2．6結合方塊思考211
7．2．7批處理213
7．3池化層214
7．4卷積層和池化層的實現216
7．4．14維數組216
7．4．2基於im2col的展開217
7．4．3卷積層的實現219
7．4．4池化層的實現222
7．5CNN的實現224
7．6CNN的可視化228
7．6．1第1層權重的可視化228
7．6．2基於分層結構的信息提取230
7．7具有代表性的CNN231
7．7．1LeNet231
7．7．2AlexNet232
7．8小結233
第8章深度學習235
8．1加深網絡235
8．1．1向更深的網絡出發235
8．1．2進一步提高識別精度238
8．1．3加深層的動機240
8．2深度學習的小歷史242
8．2．1ImageNet243
8．2．2VGG244
8．2．3GoogLeNet245
8．2．4ResNet246
8．3深度學習的高速化248
8．3．1需要努力解決的問題248
8．3．2基於GPU的高速化249
8．3．3分布式學習250
8．3．4運算精度的位數縮減252
8．4深度學習的應用案例253
8．4．1物體檢測253
8．4．2圖像分割255
8．4．3圖像標題的生成256
8．5深度學習的未來258
8．5．1圖像風格變換258
8．5．2圖像的生成259
8．5．3自動駕駛261
8．5．4DeepQ-Network（強化學習）262
8．6小結264
附錄ASoftmax-with-Loss層的計算圖267
A．1正向傳播268
A．2反向傳播270
A．3小結277
參考文獻279

本書是深度學習真正意義上的入門書，深入淺出地剖析了深度學習的原理和相關技術。書中使用Python3，盡量不依賴外部庫或工具，從基本的數學知識出發，帶領讀者從零創建一個經典的深度學習網絡，使讀者在此過程中逐步理解深度學習。書中不僅介紹了深度學習和神經網絡的概念、特征等基礎知識，對誤差反向傳播法、卷積神經網絡等也有深入講解，此外還介紹了深度學習相關的實用技巧，自動駕駛、圖像生成、強化學習等方面的應用，以及為什麼加深層可以提高識別精度等疑難的問題。本書適合深度學習初學者閱讀，也可作為高校教材使用。

(日)齋籐康毅 著 陸宇傑 譯