作 者:王宇龍 編
定 價:69.8
出 版 社:中國鐵道出版社有限公司
出版日期:2020年09月01日
頁 數:216
裝 幀:平裝
ISBN:9787113270049
中國科學院院士,清華大學人工智能研究院院長張鈸傾力推薦 詳解PyTorch框架分布式計算、CUDA擴展等高級使用技巧 涵蓋圖像分類、文本處理、物體定位、自動架構搜索等諸多領域實戰案例 豐富的新科研成果引用展示,緊跟人工智能發展前沿 提供完整源代碼文件
●第1章PyTorch簡介
1.1深度學習簡介1
1.2PyTorch的由來2
1.2.1深度學習框架回顧2
1.2.2PyTorch前身:Torch74
1.2.3Torch7的重生5
1.3PyTorch與TensorFlow對比5
1.3.1TensorFlow簡介6
1.3.2動靜之爭6
1.3.3二者借鋻融合7
1.3.4PyTorch的優勢7
1.4PyTorch發展現狀8
1.4.1主要版本特點回顧8
1.4.2準備工作8
第2章PyTorch基礎計算
2.1PyTorch核心基礎概念:張量Tensor11
2.1.1Tensor基本介紹11
2.1.2Tensor數學運算操作15
2.1.3Tensor索引分片合並變換操作20
2.1.4Tensor類成員方法22
2.1.5在GPU上計算24
2.2PyTorch可微編程核心:自動微分Autograd25
2.2.1PyTorch自動微分簡介25
2.2.2可微分張量25
2.2.3利用自動微分求梯度26
2.2.4Function:自動微分實現基礎29
2.2.5注意事項31
2.3PyTorch應用實戰一:實現卷積操作34
2.3.1卷積操作34
2.3.2利用張量操作實現卷積36
2.4PyTorch應用實戰二:實現卷積神經網絡進行圖像分類38
第3章PyTorch構建神經網絡
3.1PyTorch神經網絡計算核心:torch.nn43
3.1.1nn.Module概述43
3.1.2結構化構建神經網絡47
3.1.3經典神經網絡層介紹49
3.1.4函數式操作nn.functional53
3.2PyTorch優化器55
3.2.1torch.optim概述55
3.2.2經典優化器介紹56
3.2.3學習率調整57
3.3PyTorch應用實戰一:實現二值化神經網絡59
3.3.1二值化網絡BinaryNet概述59
3.3.2具體實現60
3.4PyTorch應用實戰二:利用LSTM實現文本情感分類63
3.4.1文本情感分類63
3.4.2具體實現65
第4章基於PyTorch構建復雜應用
4.1PyTorch數據加載70
4.1.1數據預處理:torchvision.transforms70
4.1.2數據加載:torch.utils.data73
4.2PyTorch模型搭建77
4.2.1經典模型復用與分享:torchvision.models78
4.2.2模型加載與保存79
4.2.3導出為ONNX格式85
4.3訓練過程中日志記錄與可視化89
4.4PyTorch應用實戰一:在CIFAR10數據集進行神經網絡結構搜索93
4.4.1可微分網絡架構搜索DARTS介紹94
4.4.2簡化問題建模:以ResNet為例95
4.4.3具體實現96
4.5PyTorch應用實戰二:在ImageNet數據集進行弱監督物體定位108
4.5.1GradCAM解釋顯著圖方法介紹108
4.5.2弱監督物體定位任務109
4.5.3具體實現110
第5章PyTorch高級技巧與實戰應用
5.1PyTorch並行計算118
5.1.1大規模數據集加載118
5.1.2模型的高效並行計算122
5.1.3加速模型計算和減少顯存使用125
5.2擴展PyTorch126
5.2.1利用C++和CUDA實現自定義算子126
5.2.2利用TorchScript導出PyTorch模型136
5.3豐富的PyTorch資源介紹145
5.4PyTorch應用實戰一:在ImageNet上訓練MobileNet-V2網絡146
5.4.1MobileNet-V2網絡介紹146
5.4.2具體實現147
5.5PyTorch應用實戰二:利用CUDA擴展實現MixConv算子157
5.5.1MixConv算子介紹157
5.5.2借鋻Depthwise卷積實現思路158
5.5.3具體實現160
第6章PyTorch完整實戰講解——網絡剪枝應用
6.1網絡剪枝介紹169
6.1.1剪枝方法分類169
6.1.2基於權重通道重要性的結構化剪枝170
6.1.3問題定義與建模170
6.2具體實現思路171
6.2.1如何附屬控制門值171
6.2.2剪枝結構搜索172
6.2.3剪枝模型訓練174
6.3完整代碼實現175
6.3.1模型搭建176
6.3.2剪枝器實現181
6.3.3學習控制門變量183
6.3.4剪枝模型187
6.3.5訓練模型189
6.3.6規模化啟動訓練任務193
6.4實驗結果198
參考文獻
書中以案例形式詳細介紹了PyTorch的各種實戰應用。具體內容包括PyTorch與TensorFlow的對比和PyTorch的發展現狀,張量Tensor和自動微分Autograd及其具體應用,PyTorch構建神經網絡,基於PyTorch構建復雜應用,PyTorch高級技巧與實戰應用,網絡剪枝應用。
本書內容由淺入深,適合深度學習的初學者閱讀學習,可幫助機器學習、計算機學科相關專業的學生或從業人員快速掌握PyTorch。