華為公司官方出品！華為技術有限公司2012實驗室總裁何庭波作序！

本書專注?N騰 AI處理器和?N騰 AI異構計算架構CANN,全書共7章。第1章介紹?N騰 AI處理器硬 件架構。首先介紹?N騰 AI處理器的達芬奇架構,為後續章節提供了、存儲繫統、、指令 集等知識儲備,然後介紹基於該架構分別面向訓練和推理的?N騰 AI處理器,後介紹圍繞?N騰 AI處理器 的 Atlas繫列硬件產品。第2章介紹?N騰 AI異構計算架構CANN。涵蓋CANN概述、?N騰計算圖、訓練和 推理兩種場景運行架構、開發環境安裝及全流程開發和全流程開發工具鏈 MindStudio等重要內容。第3 章介紹 CANN自定義算子開發,以示例的方式介紹TBEDSL、TBETIK和 AICPU三種算子開發方式。第 4章介紹?N騰計算語言。首先講述 AscendCL的編程模型,包括線程模型和內存模型,接著介紹 AscendCL 提供的五大開放能力,包括資源管理、模型加載與執行、算子能力開發和高級功能等。第5章介紹基於 CANN的通用 AI模型訓練方法。以模型訓練的全流程作為起始,對比了主流深度學習框架的異同,然後 講述基於 CANN的模型訓練方法和訓練輔助工具的使用方法。第6章介紹基於 CANN的模型部署方法。 講述模型部署全流程以及數字視覺預處理模塊、模型轉換工具、模型壓縮工具的使用方法。第7章介紹兩 個典型行業應用實例。圍繞個性化影視推薦繫統和智能巡檢機器人,提供全流程的完整開發實例。 本書是?N騰 AI處理器架構、?N騰 AI異構計算架構與編程的官方教材,可以作為高校人工智能、智 能科學與技術、計算機科學與技術、軟件工程、電子信息工程、自動化等專業的教材,也可以作為從事人 工智能繫統開發的科研和工程技術人員的參考用書。

蘇統華  博士、哈爾濱工業大學企業與服務智能計算研究中心副教授、軟件學院副院長。主要研究方向為模式識別、深度學習、異構計算等。致力於自然手寫體中文文本識別的研究與開拓，注重人工智能基礎技術和工業應用商業化。曾建立首款手寫中文庫（HIT-MW庫），先後被國內外200餘家科研院所采用。自主研發大規模深度學習訓練和預測平臺，該平臺已經成功應用到傳統煤氣表改造工程、中小學試卷全自動批改、手寫輸入法等商用領域。出版專著3本、譯著9本，曾2次獲得國際手寫漢字識別競賽名。
杜鵬博士，華為海思昇騰CANN技術專家，主要研究方向為異構計算、計算機圖形學、人工智能等。曾在韓國科學技術院、新加坡南洋理工大學、杭州電子科技大學從事科研與教學工作，在SIGGRAPH、PG等國際著名學術會議發表論文10餘篇。

2018年度的ACM（國際計算機協會）圖靈獎授予深度學習領域三巨頭（Yoshua Bengio、Yann LeCun、Geoffrey Hinton），是學術界與工業界對深度學習的認可。深度學習具有強大的學習能力，為人工智能技術插上了翅膀。各國相繼把發展人工智能確立為國家戰略。我國國務院於2017年7月8日重磅發布《新一代人
工智能發展規劃》，人工智能課程已經走入中小學課堂。人工智能將是未來全面支撐科技、經濟、社會發展和信息安全的重要支柱！

深度學習已經在眾多領域產生了深遠影響，但它對算力的要求極高。華為公司應時而動，打造出基於達芬奇架構的昇騰AI繫列處理器，並進一步為全場景應用提供統一、協同的硬件和軟件架構。其中，有面向雲端提供強大訓練算力的硬件產品（如昇騰910處理器），也有面向邊緣端和移動端提供推理加速算力的硬件產品（如昇騰310處理器）。與硬件同樣重要的是昇騰AI處理器的軟件生態建設。華為公司針對達芬奇架構開發了自研的AI異構計算架構CANN，友好、豐富的軟件生態會真正釋放昇騰AI處理器的能量，助力我國新一代人工智能發展。

本書首先介紹華為公司自研的面向計算密集型人工智能應用研發的計算新架構（達芬奇架構）和基於該架構的兩款分別面向訓練和推理場景的昇騰AI處理器（昇騰310處理器和昇騰910處理器），以及圍繞昇騰AI處理器的Atlas繫列硬件產品，接著介紹針對該自研硬件開發的軟件棧——昇騰AI異構計算架構CANN及其上的開發接口，然後介紹如何利用CANN上的深度學習框架MindSpore、TensorFlow、PyTorch訓練模型，後介紹如何利用CANN生成離線模型並進行模型部署，並以兩個典型實例——個性化影視推薦繫統全流程開發實例和基於文字感知的智能巡檢機器人全流程開發實例。

本書編寫團隊包括蘇統華、杜鵬、周斌，還包括周明耀、周翔和由鴻銘，華為公司周明耀參與了第1章的編寫，周翔和由鴻銘分別對第2~4章和第5~7章做出了重要貢獻，在此對他們表示感謝！
在本書的編寫過程中得到清華大學出版社盛東亮主任及鐘志芳編輯的專業指導，他們的編輯和審校工作明顯提高了本書的質量，特別向他們致以敬意。本書的編寫同時受到多個基金（重點研發計劃課題2021YFF0900903新一代人工智能重大項目2020AAA0108004、國家自然科學基金項目61673140和81671771）
的資助。

蘇統華杜鵬周斌

2022年4月