了得網計算機/網絡_CUDA C編程權威指南

內容簡介

本書主要介紹了如何使用GPU和利用CUDAC語言對其進行編程的。首先從基本的CUDA概念及結構講起，一步一步地引導讀者進入CUDA的內部世界，由淺入深地介紹了其編程要求及其內部架構，使讀者對其有了整體印像後，逐步深入了解其內部機能，後介紹了GPU的一些專用函數和注意事項。

目錄
譯者序
推薦序
自序
作者簡介
技術審校者簡介
前言
致謝
第1章基於CUDA的異構並行計算1
1.1並行計算1
1.1.1串行編程和並行編程2
1.1.2並行性3
1.1.3計算機架構4
1.2異構計算6目錄
譯者序
推薦序
自序
作者簡介
技術審校者簡介
前言
致謝
第1章基於CUDA的異構並行計算1
1.1並行計算1
1.1.1串行編程和並行編程2
1.1.2並行性3
1.1.3計算機架構4
1.2異構計算6
1.2.1異構架構7
1.2.2異構計算範例9
1.2.3CUDA：一種異構計算平臺10
1.3用GPU輸出Hello World12
1.4使用CUDA C編程難嗎15
1.5總結16
1.6習題16
第2章CUDA編程模型18
2.1CUDA編程模型概述18
2.1.1CUDA編程結構19
2.1.2內存管理20
2.1.3線程管理24
2.1.4啟動一個CUDA核函數29
2.1.5編寫核函數30
2.1.6驗證核函數31
2.1.7處理錯誤32
2.1.8編譯和執行32
2.2給核函數計時35
2.2.1用CPU計時器計時35
2.2.2用nvprof工具計時39
2.3組織並行線程40
2.3.1使用塊和線程建立矩陣索引40
2.3.2使用二維網格和二維塊對矩陣求和44
2.3.3使用一維網格和一維塊對矩陣求和47
2.3.4使用二維網格和一維塊對矩陣求和48
2.4設備管理50
2.4.1使用運行時API查詢GPU信息50
2.4.2確定GPU53
2.4.3使用nvidia-smi查詢GPU信息53
2.4.4在運行時設置設備54
2.5總結54
2.6習題55
第3章CUDA執行模型56
3.1CUDA執行模型概述56
3.1.1GPU架構概述57
3.1.2Fermi架構59
3.1.3Kepler架構61
3.1.4配置文件驅動優化65
3.2理解線程束執行的本質67
3.2.1線程束和線程塊67
3.2.2線程束分化69
3.2.3資源分配74
3.2.4延遲隱藏76
3.2.5占用率78
3.2.6同步81
3.2.7可擴展性82
3.3並行性的表現83
3.3.1用nvprof檢測活躍的線程束84
3.3.2用nvprof檢測內存操作85
3.3.3增大並行性86
3.4避免分支分化88
3.4.1並行歸約問題88
3.4.2並行歸約中的分化89
3.4.3改善並行歸約的分化93
3.4.4交錯配對的歸約95
3.5展開循環97
3.5.1展開的歸約97
3.5.2展開線程的歸約99
3.5.3完全展開的歸約101
3.5.4模板函數的歸約102
3.6動態並行104
3.6.1嵌套執行105
3.6.2在GPU上嵌套Hello World106
3.6.3嵌套歸約109
3.7總結113
3.8習題113
第4章全局內存115
4.1CUDA內存模型概述115
4.1.1內存層次結構的優點116
4.1.2CUDA內存模型117
4.2內存管理124
4.2.1內存分配和釋放124
4.2.2內存傳輸125
4.2.3固定內存127
4.2.4零拷貝內存128
4.2.5統一虛擬尋址133
4.2.6統一內存尋址134
4.3內存訪問模式135
4.3.1對齊與合並訪問135
4.3.2全局內存讀取137
4.3.3全局內存寫入145
4.3.4結構體數組與數組結構體147
4.3.5性能調整151
4.4核函數可達到的帶寬154
4.4.1內存帶寬154
4.4.2矩陣轉置問題155
4.5使用統一內存的矩陣加法167
4.6總結171
4.7習題172
第5章共享內存和常量內存174
5.1CUDA共享內存概述174
5.1.1共享內存175
5.1.2共享內存分配176
5.1.3共享內存存儲體和訪問模式176
5.1.4配置共享內存量181
5.1.5同步183
5.2共享內存的數據布局185
5.2.1方形共享內存185
5.2.2矩形共享內存193
5.3減少全局內存訪問199
5.3.1使用共享內存的並行歸約199
5.3.2使用展開的並行歸約202
5.3.3使用動態共享內存的並行歸約204
5.3.4有效帶寬205
5.4合並的全局內存訪問205
5.4.1基準轉置內核205
5.4.2使用共享內存的矩陣轉置207
5.4.3使用填充共享內存的矩陣轉置210
5.4.4使用展開的矩陣轉置211
5.4.5增大並行性214
5.5常量內存215
5.5.1使用常量內存實現一維模板215
5.5.2與隻讀緩存的比較217
5.6線程束洗牌指令219
5.6.1線程束洗牌指令的不同形式220
5.6.2線程束內的共享數據222
5.6.3使用線程束洗牌指令的並行歸約226
5.7總結227
5.8習題228
第6章流和並發230
6.1流和事件概述231
6.1.1CUDA流231
6.1.2流調度234
6.1.3流的優先級235
6.1.4CUDA事件235
6.1.5流同步237
6.2並發內核執行240
6.2.1非空流中的並發內核240
6.2.2Fermi GPU上的虛假依賴關繫242
6.2.3使用OpenMP的調度操作244
6.2.4用環境變量調整流行為245
6.2.5GPU資源的並發限制246
6.2.6默認流的阻塞行為247
6.2.7創建流間依賴關繫248
6.3重疊內核執行和數據傳輸249
6.3.1使用深度優先調度重疊249
6.3.2使用廣度優先調度重疊252
6.4重疊GPU和CPU執行254
6.5流回調255
6.6總結256
6.7習題257
第7章調整指令級原語258
7.1CUDA指令概述259
7.1.1浮點指令259
7.1.2內部函數和標準函數261
7.1.3原子操作指令262
7.2程序優化指令264
7.2.1單精度與雙精度的比較264
7.2.2標準函數與內部函數的比較266
7.2.3了解原子指令272
7.2.4綜合範例277
7.3總結279
7.4習題280
第8章GPU加速庫和OpenACC281
8.1CUDA庫概述282
8.1.1CUDA庫支持的作用域283
8.1.2通用的CUDA庫工作流283
8.2cuSPARSE庫285
8.2.1cuSPARSE數據存儲格

前言

Instroduction 前言歡迎來到用CUDA C進行異構並行編程的奇妙世界！
現代的異構繫統正朝一個充滿無限計算可能性的未來發展。異構計算正在不斷被應用到新的計算領域—從科學到數據庫，再到機器學習的方方面面。編程的未來將是異構並行編程的天下！
本書將引領你通過使用CUDA平臺、CUDA工具包和CUDA C語言快速上手GPU（圖形）計算。本書中設置的範例與練習也將帶你快速了解CUDA的專業知識，助你早日達到專業水平！
本書寫給誰本書適用於任何想要利用GPU計算能力來提高應用效率的人。它涵蓋了CUDA C編程領域前沿的技術，並有著以下突出的優勢：
風格簡潔描述透徹大量範例優質習題覆蓋面廣內容聚焦高性能計算的需求如果你是一個經驗豐富的C程序員，並且想要通過學習CUDA C來提高高性能計算的專業纔能，本書中建立在你現有知識之上的例題和習題，將使掌握CUDA C編程更加簡單。僅需掌握一些C語言延伸的CUDA知識，你便可以從大量的並行硬件中獲益。CUDA平臺、編程模型、工具和庫將使得異構架構編程變得簡捷且高效。Instroduction 前言歡迎來到用CUDA C進行異構並行編程的奇妙世界！
現代的異構繫統正朝一個充滿無限計算可能性的未來發展。異構計算正在不斷被應用到新的計算領域—從科學到數據庫，再到機器學習的方方面面。編程的未來將是異構並行編程的天下！
本書將引領你通過使用CUDA平臺、CUDA工具包和CUDA C語言快速上手GPU（圖形）計算。本書中設置的範例與練習也將帶你快速了解CUDA的專業知識，助你早日達到專業水平！
本書寫給誰本書適用於任何想要利用GPU計算能力來提高應用效率的人。它涵蓋了CUDA C編程領域前沿的技術，並有著以下突出的優勢：
風格簡潔描述透徹大量範例優質習題覆蓋面廣內容聚焦高性能計算的需求如果你是一個經驗豐富的C程序員，並且想要通過學習CUDA C來提高高性能計算的專業纔能，本書中建立在你現有知識之上的例題和習題，將使掌握CUDA C編程更加簡單。僅需掌握一些C語言延伸的CUDA知識，你便可以從大量的並行硬件中獲益。CUDA平臺、編程模型、工具和庫將使得異構架構編程變得簡捷且高效。
如果你是計算機科學領域以外的專業人士，而且想要通過GPU上的並行編程來限度地提高工作效率，並提高應用性能，那麼本書正是為你量身打造的。書中的闡述清晰而簡明，專人精心設計的示例，使用配置文件驅動的方法，這些都將幫助你深入了解GPU編程並迅速掌握CUDA。
如果你是教授或任何學科的研究者，希望通過GPU計算推進科學發現和創新，本書中將有你找到解決方案的捷徑。即使你沒有多少編程經驗，在並行計算概念和計算機科學的知識方面也不夠精通，本書也可帶你快速入門異構架構並行編程。
如果你是C語言初學者並且有興趣探索異構編程，本書也完全適合你，因為它不強制要求讀者有豐富的C語言編程經驗。即使CUDA C和C語言使用相同的語法，二者的抽像概念和底層硬件也是全然不同的，因而對其中之一的經驗並不足以使你在學習另一個時感到輕松。所以，隻要你對異構編程有濃厚的興趣，隻要你樂於學習新事物且樂於嘗試全新的思維方式，隻要你對技術相關的話題有深入探索的熱情，本書也完全適合你。
即使你有不少關於CUDA C的經驗，本書還是有助於知識更新、探索新工具以及了解CUDA功能。雖然本書旨在從零開始培養CUDA的專業人纔，但它也含有許多先進的CUDA概念、工具和框架的概述，它們將對CUDA開發人員大有裨益。
本書的內容本書講解了CUDA C編程的基本概念與技術，用於大幅加速應用程序的性能，並包含了隨著CUDA工具包6.0和NVIDIA Kepler GPU一起發布的功能。在對從同質架構到異構架構的並行編程模式轉變進行了簡要介紹之後，本書將引導你學習必要的CUDA編程技能和的練習實踐，包含但不僅限於CUDA編程模型、GPU執行模型、GPU內存模型、CUDA流和事件、多GPU編程的相關技術、CUDA感知MPI編程和NVIDIA開發工具。
本書采用一種獨特的方法來教授CUDA知識，即將基礎性的概念講解與生動形像的示例相結合，這些示例使用配置文件驅動的方法來指導你實現性能。我們對每一個主題都進行了詳盡的講解，清晰地展示出了采用代碼示例形式詳細操作的過程。書中不僅教授如何使用基於CUDA的工具，還介紹了如何以抽像編程模型為基礎並憑借悟性與直覺對開發過程每一步驟的結果做出解釋，從而幫助你快速掌握CUDA的開發流程。
每章圍繞一個主題展開講解，運用可行的代碼示例來演示GPU編程的基本功能和技術，這之後就是我們精心設計的練習，以便你進一步探索加深理解。
所有的編程示例都是在裝有CUDA 5.0（或更高版本）和Kepler或Fermi GPU的Linux繫統上運行的。由於CUDA C是一種跨平臺的語言，因而書中的示例在其他平臺上也同樣適用，比如嵌入式繫統、平板電腦、筆記本電腦、個人電腦、工作站以及高性能計算服務器。許多OEM供應商支持各種類型的NVIDIA GPU。
本書的結構本書共有10章，包含了以下主題。
第1章：基於CUDA的異構並行計算本章首先簡要介紹了使用GPU來完善CPU的異構架構，以及向異構並行編程進行的模式轉變。
第2章：CUDA編程模型本章介紹了CUDA編程模型和CUDA程序的通用架構，從邏輯視角解釋了在CUDA中的大規模並行計算：通過編程模型直觀展示的兩層線程層次結構。同時也探討了線程配置啟發性方法和它們對性能的影響。
第3章：CUDA執行模型本章通過研究成千上萬的線程是如何在GPU中調度的，來探討硬件層面的內核執行問題。解釋了計算資源是如何在多粒度線程間分配的，也從硬件視角說明了它如何被用於指導內核設計，以及如何用配置文件驅動方法來開發和優化內核程序。另外，本章還結合示例闡述了CUDA的動態並行化和嵌套執行。
第4章：全局內存本章介紹了CUDA內存模型，探討全局內存數據布局，並分析了全局內存的訪問模式。本章介紹了各種內存訪問模式的性能表現，闡述了統一內存和CUDA 6.0中的新功能是如何簡化CUDA編程的，以及如何提高程序員工作效率。
第5章：共享內存和常量內存本章闡釋了共享內存，即管理程序的低延遲緩存，是如何提高內核性能的。它描述了共享內存的優化數據布

商品搜索

商品分类

【醫學】

【各大出版社】