第1章 
 稀疏矩陣概述 1

1.1矩陣與稀疏矩陣 1

1.2應用領域 1

1.2.1線性繫統 2

1.2.2圖計算 7

1.2.3線性規劃 8

1.2.4PageRank算法 9

1.3稀疏矩陣相關計算 12

1.3.1BLAS 12

1.3.2Sparse BLAS 14

1.3.3SpMV 16

1.3.4SpGEMM 16

1.3.5SpMM 17

本章參考文獻 18

第2章  稀疏矩陣壓縮編碼方法 23

2.1常見壓縮編碼概述 23

2.2常見基本壓縮格式 24

2.2.1COO 24

2.2.2CSR 24

2.2.3ELL 25

2.2.4DIA 26

2.3切片和分塊壓縮格式 26

2.3.1BCSR 26

2.3.2BCCOO/BCCOO 27

2.3.3CSR5 28

2.3.4CSR2 30

2.3.5SELL 30

2.3.6CDS 31

2.4混合格式 31

2.4.1HYB 31

2.4.2MMSparse 32

2.4.3其他 33

本章參考文獻 33

第3章  SpMV研究現狀綜述 36

3.1問題定義 36

3.2格式選擇 37

3.2.1基於目標平臺特性的格式選擇 37

3.2.2基於強化學習的格式選擇 37

3.2.3基於決策樹的格式選擇 38

3.2.4基於SVM的格式選擇 38

3.2.5基於深度學習的格式選擇 39

3.3面向體繫結構的優化 40

3.3.1面向多核/眾核處理器的優化 40

3.3.2面向GPU的優化 42

3.3.3基於FPGA的優化 42

3.3.4面向異構計算平臺的優化 43

3.4自動調優技術 43

3.5矩陣劃分 44

3.5.1一維劃分 44

3.5.2二維劃分 45

本章參考文獻 45

第4章  SpGEMM研究現狀綜述 51

4.1SpGEMM介紹 51

4.2常見應用 52

4.2.1代數多網格求解器 52

4.2.2三角形計數 53

4.2.3多源寬度優先搜索 55

4.3主要研究方法 56

4.3.1結果矩陣的大小預測 56

4.3.2矩陣劃分和負載均衡 59

4.3.3中間結果累加 62

4.4面向體繫結構的優化 64

4.4.1多核平臺 64

4.4.2現場可編程門陣列 67

4.4.3異構計算平臺 67

4.4.4分布式平臺 67

4.5實驗評估 68

4.5.1繫統設置 69

4.5.2測試基準 70

4.5.3評估結果 71

4.6挑戰與未來工作 76

本章參考文獻 77

第5章  面向異構平臺的SpMV優化算法 86

5.1CPU-GPU異構平臺編程 86

5.2基於機器學習的SpMV性能預測 88

5.2.1基於回歸分析的性能預測 89

5.2.2模型訓練與測試 89

5.2.3性能分析 91

5.3面向異構平臺的劃分與協同優化算法 91

5.3.1稀疏矩陣數據布局分析 91

5.3.2特定模式稀疏矩陣的SpMV劃分 92

5.3.3SpMV計算協同任務優化 93

5.3.4實驗評估 96

5.3.5小結 99

5.4多GPU異構平臺的SpMV優化 100

5.4.1面向CPU - GPU異構平臺的稀疏矩陣劃分 101

5.4.2實驗評估 106

5.4.3小結 114

本章參考文獻 115

第6章  基於數學形態學的SpMV劃分優化方法 119

6.1矩陣劃分 119

6.2基本工作流程 121

6.3形狀識別 123

6.4矩陣二維劃分 132

6.5算法實現與GPU優化 135

6.5.1形狀識別算法實現 135

6.5.2GPU優化 136

6.6實驗評估 138

6.6.1SpMV性能分析 139

6.6.2形態學參數選擇 142

6.6.3數據失真 143

6.6.4額外開銷分析 144

本章參考文獻 145

第7章  面向GPU的SpMV編碼選擇算法 146

7.1引言 146

7.2在GPU上進行稀疏格式選擇的重要性 148

7.2.1SpMV內核在GPU上的性能 148

7.2.2SpMV內核在GPU上的能效 150

7.3BestSF：一格式 151

7.3.1離線訓練 152

7.3.2在線決策 153

7.4稀疏特征選擇 153

7.5Pairwise Model學習 155

7.5.1學習算法 155

7.5.2特征選擇 156

7.5.3訓練與測試 156

7.6評估 157

7.7總結 164

本章參考文獻 164

第8章  SpMV性能預測分析 168

8.1引言 168

8.2面向硬件體繫結構的性能預測方法 169

8.3基於傳統機器學習的性能預測方法 170

8.4基於深度學習的性能預測方法 180

8.5多性能指標下SpMV性能分析 182

本章參考文獻 183

第9章  面向精度的稀疏矩陣計算優化 186

9.1數據表示與精度 186

9.1.1常見浮點數據表示 186

9.1.2處理器與精度 188

9.1.3精度可調算法設計的主要挑戰 191

9.2混合精度算法設計 192

9.2.1數據驅動的混合精度算法 192

9.2.2混合精度的迭代算法 192

9.2.3混合精度的預條件迭代算法 193

9.2.4計算格式與存儲格式解耦 195

本章參考文獻 197

220章  開源庫和工具 199

10.1測試集 199

10.1.1SuiteSparse Matrix Collection 199

10.1.2SparseBench 201

10.2相關庫 201

10.2.1cuSPARSE 201

10.2.2CSPARSE 202

10.2.3CUSP 202

10.2.4bhSPARSE 203

10.2.5KokkosKernels 203

10.2.6SpBLAS 203

10.2.7Scilab 204

10.2.8各類庫對比 204

本章參考文獻 204

彩插 206