1.【在一個由超級AI主宰的世界裡，人類如何保持獨立？】這本書提出一個大問題，給出一種解決方案。作者用三個大原則，一個“有益的AI”，帶你破解人機共存的密碼，這可能是人類面臨的最後一個大問題。2.【AI領軍人物，業界公認的“標準教科書”作者，時隔25年，打造全新燒腦之作】作者認為，人類試圖將自己的目標灌輸給機器，是注定要失敗的嘗試。這本書倡導一種顛覆性的新方法——逆強化學習，讓機器根據人類行為，學習人類目標。3. 【埃隆?馬斯克、萬維鋼、姚期智、張宏江、黃鐵軍、周志華、周伯文、曾等

●前言//V
01如果我們成功了
我們如何走到今天？//006接下來會發生什麼？//008出了什麼問題？//010我們能解決嗎？//013
02人類和機器的智能
智能//017計算機//035智能計算機//043
03人工智能在未來會如何發展？
近未來//067超級人工智能何時到來？//080概念上的突破即將到來//082想像一臺超級智能機器//095超級智能的局限//098人工智能如何造福人類？//100
04人工智能的濫用
監督、勸導和控制//107致命性自主武器//113篡奪其他人類角色//127
05過於智能的人工智能
大猩猩問題//137邁達斯國王問題//141恐懼與貪婪：工具性目標//145智能爆炸//147
06不那麼偉大的人工智能辯論
否認//154轉移話題//162部落主義//166難道我們不能……//168
辯論重新開始//176
07人工智能：一種不同的方法
有益機器的原則//182樂觀的理由//188謹慎的理由//190
08可證明有益的人工智能
數學保證//197從行為中學習偏好//202輔助博弈//205要求和指示//215“主動嗑電”//218遞歸式自我完善//220
09復雜的難題：我們
不同的人//227許多人//229善良的、可惡的、愛嫉妒的人類//242愚蠢的、情緒化的人類//247人類真的有偏好嗎？//250
10問題解決了嗎？
有益的機器//263對人工智能的治理//265濫用//269衰弱與人類自主//270
附錄A尋找解決方案//273
附錄B知識與邏輯//283
附錄C不確定性和概率論//289
附錄D從經驗中學習//301
致謝//311
注釋//313
圖片版權//357

從比爾·蓋茨、埃隆·馬斯克到霍金，眾多企業家和科學家都曾表示擔心AI對人類生存造成的威脅。真有一天，人類會成為自己發明的機器的受害者嗎？這本書講述了我們為了理解和創造智能，在過去、現在和未來做出的嘗試。這很重要，並不是因為人工智能正迅速成為當前的一種普遍現像，而是因為它是未來的主導技術。世界上的各個大國正在意識到這一事實，各家大公司也早就知道這一點。我們無法準確預測這項技術將如何發展，也不知道這項技術發展的時間線。然而，我們必須為現實世界中“機器的決策能力遠遠超過人類”這種可能性做好準備。我們該怎麼辦？如何破解人機共存密碼，掌控比我們強大得多的智能，讓AI獲得新生，這可能是人類最後一個大問題。這本書的目的是解釋為什麼這可能是人類歷史上的最後一件事，以及如何確保這不會成為現實。

(美)斯圖爾特·羅素 著 張羿 譯