[目錄]

引 言 人工智能的機遇與風險

01 塞思·勞埃德 雖然是謬誤，卻比以往更靠譜

02 朱迪亞·珀爾 不透明學習機器的局限性

03 斯圖爾特·羅素 給機器輸入使命

04 喬治·戴森 人工智能第三定律

05 丹尼爾·丹尼特 我們將如何應對?

06 羅德尼·布魯克斯 我們的機器使我們陷入非人類混亂

07 弗蘭克·維爾切克 智能的統一

08 邁克斯·泰格馬克 讓我們心懷渴望，超越自我

09 揚·塔裡安 反對派報告

10 史蒂芬·平克 科技預言與觀念的不可低估的因果力量

11 戴維·多伊奇 超越獎懲

12 湯姆·格裡菲思 對人類的人工利用

13 安卡·德拉甘 把人類放進人工智能的方程式中

14 克裡斯·安德森 梯度下降

15 戴維·凱澤 “信息”之於維納、香農及我們

16 尼爾·格申斐爾德 伸縮性

17 丹尼爾·希利斯 批機器智能

18 文卡·拉馬克裡希南 計算機會成為我們的霸主嗎?

19 阿萊克斯·彭特蘭 人類策略

20 漢斯·烏爾裡希·奧布裡斯特  使看不見的為人所見:當藝術遇見人工智能

21 艾莉森·高普尼克 人工智能與 4 歲兒童的對比

22 彼得·加裡森 算法學家的客觀夢想

23 喬治·丘奇 機器的權利

24 卡羅琳·瓊斯 控制論生物的藝術應用

25 斯蒂芬·沃爾弗拉姆 人工智能與文明的未來

人工智能的機遇與風險

人工智能是今天的神話，也是其他一切故事背後的故事。它既是新的開始，也是末世毀滅，兩種結局分別對應了好的人工智能和惡的人工智能。本書集結了諸多來自人工智能領域內外的重要思想家的對話，探討了人工智能的定義及含義。該對話是基於一個叫作“可能的心智”的項目，正式開始於 2016 年 9 月在康涅狄格州華盛頓的五月花格瑞斯酒店召開的一次會議，本書的一些撰稿人也參與了這次會議。

在次會議上，人們很快對人工智能進入更廣泛的文化環境感到興奮與恐懼，這與諾伯特·維納(Norbert Wiener)的“控制論”思想進入當時文化領域的情況非常類似，特別是在 20 世紀 60 年代，許多藝術家把這種新科技思想融入他們的作品中。我對控制論思想的影響力有切 身體會。實際上，若說正是控制論思想使我走上如今的人生道路也不為過。隨著 20 世紀 70 年代初數字時代的到來，人們不再談論維納，但如今，他的控制論思想被廣泛采用，已經內化到了不再需要名字的地步。它無處不在，飄蕩在空氣中的每個角落，這正是適合本書開始的地方。

新技術=新感知

在人工智能出現之前，控制論大行其道。它是諾伯特·維納在 1948 年的奠基性著作中闡述的一種理念，意指自動的、自我調節的一種控制。我記得我接觸到這一理念是在 1966 年，當時作曲家約翰·凱奇(John Cage)邀請我和其他四五位年輕的藝術家參加了一些晚宴，也就是一繫列的研討會，探討媒體、傳播學、藝術、音樂及哲學上的一些問題。這些問題主要圍繞讓凱奇感興趣的維納、克勞德·香農(Claude Shannon)及馬歇爾·麥克盧漢 (Marshall McLuhan)的觀點。這些人在紐約的藝術圈頗有影響力，而我當時正努力躋身於這個圈子。凱奇對麥克盧漢的觀點尤其熟悉。麥克盧漢認為， 通過發明電子技術，我們的中樞神經繫統即大腦擁有了一個外形，我們現在不得不假設“隻有一個大腦，一個我們所有人共享的大腦”。

當時我在紐約的電影制片人實驗電影院做項目經理，在先鋒電影制片人兼導演喬納斯·梅卡斯(Jonas Mekas)的主持下，負責一繫列的多媒體制作，即“新電影1號”項目(也叫作“擴延電影節”)。我與之共事的那些藝術家對這些理念非常感興趣，他們是:視覺藝術家克萊斯·奧登伯格(Claes Oldenburg)、羅伯特·勞森伯格(Robert Rauschenberg)、安迪·沃霍爾(Andy Warhol)和羅伯特·懷特曼(Robert Whitman);動態藝術家夏洛特·穆爾曼(Charlotte Moorman)和白南準(Nam June Paik);偶發藝術家阿倫·卡普羅(Allan Kaprow)和卡若琳·史尼曼(Carolee Schneemann);舞蹈家特 裡莎·布朗(Tricia Brown);電影制片人傑克·史密斯(Jack Smith)、斯坦·範德比克(Stan Vanderbeek)、艾德·艾姆許維勒(Ed Emshwiller)和庫查兄弟(Kuchar brothers);先鋒劇作家肯·杜威(Ken Dewey);詩人格爾德·斯特恩(Gerd Stern)和USCO 組合;極簡音樂家拉蒙特·揚(La Monte Young)和特裡·賴利(Terry Riley);以及通過沃霍爾結識的地下絲絨樂隊(The Velvet Underground)。他們中許多人當時正在閱讀維納的作品， 廣播裡也正在播放介紹控制論學說的節目。正是在這樣的一次晚宴中，凱奇從他的手提箱裡拿出一本《控制論》(Cybernetics)交給我，說:“這是給你的。”

在此期間，我意外地接到維納的同事阿瑟·K. 所羅門(Arthur K. Solomon)給我打來的電話，他是哈佛大學生物物理學研究生學院的院長。當時，維納一年前已經去世，但所羅門與維納在麻省理工學院和哈佛大學的一些關繫密切的同事，一直在關注《紐約時報》上關於“擴延電影節”的報道，對其與維納作品扯上關繫頗感好奇。所羅門邀請我帶著一些藝術家去劍橋與他和其他一些專家會面，包括麻省理工學院研究感官通信的沃爾特·羅森勃利斯(Walter Rosenblith)，哈佛大學應用數學家安東尼·歐廷格(Anthony Oettinger)，麻省理工學院工程師、頻閃光的發明人哈羅德·埃傑頓(Harold “Doc”Edgerton)等。

就像我以前遇到過的許多次“藝術遭遇科學”一樣，由於我對科學所知不多，這次為期兩天的會面不算很成功，就像輪船行駛在暗夜裡。但我盡可能地吸收了一切營養，而且從很多有趣的方面看，這次會面非常重要，其中一點就是他們帶我們去看了“那臺”計算機。在當時，計算機可是個稀罕物，至少我們這些訪客還沒有誰擁有一臺計算機。我們被帶到麻省理工學院裡的一間非常大的屋子，在屋子中間有一個“冷室”，它高於地面，四周是玻璃牆。在“冷室”裡，技術人員穿著白色實驗室服、戴著白色圍巾和手套，正忙碌著核對整理從一個巨型機器裡出來的穿孔卡片。我走到近前，從我口中呼出的熱氣在“冷室”的玻璃上結成一層薄霧。我伸手抹開玻璃上的霧氣，看到了“那臺”計算機。一下子我便深深愛上了它。

後來在 1967 年秋，我來到門洛帕克市和斯圖爾特·布蘭德一起待了一段時間。1965 年我在紐約見過他，當時他是 USCO 藝術家組合的一名外圍成員。當時，他正與身為數學家的妻子洛伊絲(Lois)著手準備《全球概覽》雜志(The Whole Earth Catalog)期的出版發行。當洛伊絲和團隊其他人正干著苦力時，斯圖爾特和我坐在一個角落裡待了兩天，閱讀、標記和注解前一年凱奇給我的那本《控制論》，討論維納的思想。

這些思想給了我靈感，我開始提出一個主題，也像一個魔咒，讓我以後的所有努力有了方向，那就是“新技術=新感知”。在媒介理論家馬歇爾·麥克盧漢、建築設計師巴克敏斯特·富勒(Buckminster Fuller)、未來主義者約翰·麥克黑爾(John McHale)，還有文化人類學家愛德華·T. 霍爾(Edward T. Hall)和埃德蒙·卡彭特(Edmund Carpenter)的啟發下，我開始大量閱讀信息論、控制論和繫統論等領域的書籍。麥克盧漢推薦我閱讀生物學家 J. Z. 揚(J. Z. Young)的《科學中的懷疑與確定性》(Doubt and Certainty in Science)，在書中作者認為我們創造了工具，並通過使用這些工具來塑造自我。他推薦我閱讀的另一個文本是沃倫·韋弗(Warren Weaver)和克勞德·香農在 1949 年所寫的文章《通信數學理論的新貢獻》(Recent Contributions to the Mathematical Theory of Communication)。在這篇文章開頭，作者寫道:“‘通信’一詞將被廣泛使用，其意義包括一個心靈影響另一個心靈的所有過程。這當然不僅僅指寫作和演講，還指音樂、繪畫、戲劇、芭蕾，甚至人類的所有行為。”

誰能想到，從那往後的 20 年裡，我們會開始把大腦比作計算機?誰又能想到，在接下來的另一個20 年裡，當我們把計算機連成互聯網時，大家纔意識到大腦不是一臺計算機，而是一個計算機網絡?當然，維納沒有想到——雖然他是設計用於控制機器的模擬反饋電路的專家，藝術家們也沒有想到，我自己更沒有想到。

真正的互聯網思想家，又一部科技思想荟萃的傑作!布羅克曼的個人魅力總是能聚集互聯網、人工智能領域的*強大腦，展現深刻的技術思想和前沿洞察。

——葦草智酷創始合伙人段永朝

建築學家威廉·J.米切爾曾有一個比喻：人不過是猿猴的1.0版。現在，經由各種比特的武裝，人類終於將自己升級到猿猴2.0版。他們將如何處理自己的原子之身呢？這是今日*尖思想者不得不回答的“大問題”。

——博士，北京大學新聞與傳播學院教授胡泳

本書提供了跨學科視角的人工智能發展洞見，尤其睿智地指出，人工智能不僅需要更有智慧的科技屬性，更需要人類本身固有的善良本質。

——清華大學教授，技術創新管理專家陳勁

一個人的格局和視野取決於他思考什麼樣的問題，而他未來的思考，在很大程度上取決於他現在的閱讀。這套書會讓你相信，在生活的苟且之外，的確有一群偉大的頭腦在充滿詩意的遠方運轉。

——電子科技大學教授、互聯網科學研究中心主任周濤

布羅克曼是科學掮客，他有個所謂“第三種文化”的理論，就是理科生寫的科普，算是對C.P.斯諾文理“兩種文化”矛盾的補充。布羅克曼每年都會組織一批科學家開沙龍，然後把沙龍的言論結集出書。今年的主題是“人工智能”。考慮到今年美國科學界的詭異氣氛和他自己的年齡，這本書可能是他編的*後一本文集了。值得一看。

——烏鎮智庫理事長，《人工智能簡史》作者尼克

世界上公認有智慧的一群人，每年就著一個主題，每個人寫一篇文章，然後結集出一本書，這就是出版歷史上神奇的“對話*偉大的頭腦”繫列叢書。我有點擔心，你看完一本之後，會把湛廬文化的這一套書全都拿下。嗯，你會和我一樣，忍不住的。

——得到App創始人羅振宇

以科學精神為內核，無盡跨界，Edge就是這樣一個精英網絡沙龍。每年，Edge會提出一個年度問題，沙龍成員依次作答，*終結集出版。不要指望在這套書裡讀到“ABC”，也不要指望獲得完整的闡釋。數百位一流精英在這裡直接回答“大問題”，論證很少，銳度卻很高，帶來踫撞和啟發。剩下的，靠你自己。

——財新傳媒總編輯，BetterRead公號創始人王爍

隨著AI圍棋的勝利，點亮了人工智能。產業大潮洶湧澎湃，資本泡沫與技術狂想也撲面而來。這個時候，更需要與智者在一起，穿破歷史，撥開迷霧，洞見未來。

——搜狗CEO王小川

關注Edge並閱讀上面的文章已經十幾年了，越到後來越發現，打動我的不是布羅克曼及其周圍那批作家的睿智，甚至不是他們的淵博，而是他們討論問題的邊界感，一種在專業視角下對世界彬彬有禮的試探。

——果殼聯合創始人，“科學藝術研究中心”主編小莊

“對話*偉大的頭腦”這套書中，每一本都是一個思想的熱核反應堆，在它們建構的浩瀚星空中，百位大師或近或遠、如同星宿般璀璨。每一位讀者都將擁有屬於自己的星際穿越，你會發現思考機器的100種未來定數，而奇點理論不過是星空中小小的一顆。

——馭勢科技(北京)有限公司聯合創始人兼CEO吳甘沙

作為美國著名的文化推動者和出版人，約翰·布羅克曼邀請了世界上各個領域的科學精英和思想家，通過在線沙龍的方式展開圓桌討論。“對話*偉大的頭腦”這套書就是活動參與者的觀點呈現，讓我們有機會一窺“*強大腦”的獨特視角，從而得到思想上的啟迪。

——中國科學院國家天文臺研究員，中國科學院大學教授，“第十一屆文津獎”獲獎圖書《星際穿越》譯者苟利軍

未來並非如我所願一片光明，看看大師們有什麼深刻的思考和破解之道，也許會讓我們活得更放松一些。

——丁香園創始人李天天

與*偉大的頭腦對話，雖然不一定讓你自己也偉大起來，但一定是讓人擺脫平庸的*好方式之一。

——清華大學社會科學學院教授劉兵

術業有專攻，是指用以謀生的職業，越專業越好，因為競爭激烈，不專業沒有優勢。但很多人誤以為理解世界和社會，也是越專業越好，這就錯了。世界雖隻有一個，但認識世界的角度多多益善。學科的邊界都是人造的藩籬，能了解各行業精英的視角，從多個角度玩味這個世界，綜合各種信息來做決策，這不顯然比死守一個角度更有益也有趣嗎?

——復旦大學經濟學助理教授蘭小歡

如果每位大思想家都是一道珍饈，那麼這套書毫無疑問就是至尊佛跳牆了。很多名字都是讓我敬仰的當代思想大師，物理學家麗莎·蘭道爾、心理學家史蒂芬·平克、哲學家丹尼爾·丹尼特，他們都曾給我無數智慧的啟發。與*偉大的頭腦對話，雖然不一定讓你自己也偉大起來，但一定是讓人擺脫平庸的*好方式之一。

如果你不隻對瑣碎的生活有興趣，還曾有那麼一個瞬間，思考過全人類的問題，思考過有關世界未來的命運，那麼這套書無疑是*好的禮物。一篇文章就是一片視野，讓你站到群山之巔。

——2016年雨果獎獲得者郝景芳

人工智能的機遇與風險

人工智能是今天的神話，也是其他一切故事背後的故事。它既是新的開始，也是末世毀滅，兩種結局分別對應了好的人工智能和惡的人工智能。本書集結了諸多來自人工智能領域內外的重要思想家的對話，探討了人工智能的定義及含義。該對話是基於一個叫作“可能的心智”的項目，正式開始於 2016 年 9 月在康涅狄格州華盛頓的五月花格瑞斯酒店召開的一次會議，本書的一些撰稿人也參與了這次會議。

在次會議上，人們很快對人工智能進入更廣泛的文化環境感到興奮與恐懼，這與諾伯特·維納(Norbert Wiener)的“控制論”思想進入當時文化領域的情況非常類似，特別是在 20 世紀 60 年代，許多藝術家把這種新科技思想融入他們的作品中。我對控制論思想的影響力有切 身體會。實際上，若說正是控制論思想使我走上如今的人生道路也不為過。隨著 20 世紀 70 年代初數字時代的到來，人們不再談論維納，但如今，他的控制論思想被廣泛采用，已經內化到了不再需要名字的地步。它無處不在，飄蕩在空氣中的每個角落，這正是適合本書開始的地方。

新技術=新感知

在人工智能出現之前，控制論大行其道。它是諾伯特·維納在 1948 年的奠基性著作中闡述的一種理念，意指自動的、自我調節的一種控制。我記得我接觸到這一理念是在 1966 年，當時作曲家約翰·凱奇(John Cage)邀請我和其他四五位年輕的藝術家參加了一些晚宴，也就是一繫列的研討會，探討媒體、傳播學、藝術、音樂及哲學上的一些問題。這些問題主要圍繞讓凱奇感興趣的維納、克勞德·香農(Claude Shannon)及馬歇爾·麥克盧漢 (Marshall McLuhan)的觀點。這些人在紐約的藝術圈頗有影響力，而我當時正努力躋身於這個圈子。凱奇對麥克盧漢的觀點尤其熟悉。麥克盧漢認為， 通過發明電子技術，我們的中樞神經繫統即大腦擁有了一個外形，我們現在不得不假設“隻有一個大腦，一個我們所有人共享的大腦”。

當時我在紐約的電影制片人實驗電影院做項目經理，在先鋒電影制片人兼導演喬納斯·梅卡斯(Jonas Mekas)的主持下，負責一繫列的多媒體制作，即“新電影1號”項目(也叫作“擴延電影節”)。我與之共事的那些藝術家對這些理念非常感興趣，他們是:視覺藝術家克萊斯·奧登伯格(Claes Oldenburg)、羅伯特·勞森伯格(Robert Rauschenberg)、安迪·沃霍爾(Andy Warhol)和羅伯特·懷特曼(Robert Whitman);動態藝術家夏洛特·穆爾曼(Charlotte Moorman)和白南準(Nam June Paik);偶發藝術家阿倫·卡普羅(Allan Kaprow)和卡若琳·史尼曼(Carolee Schneemann);舞蹈家特 裡莎·布朗(Tricia Brown);電影制片人傑克·史密斯(Jack Smith)、斯坦·範德比克(Stan Vanderbeek)、艾德·艾姆許維勒(Ed Emshwiller)和庫查兄弟(Kuchar brothers);先鋒劇作家肯·杜威(Ken Dewey);詩人格爾德·斯特恩(Gerd Stern)和USCO 組合;極簡音樂家拉蒙特·揚(La Monte Young)和特裡·賴利(Terry Riley);以及通過沃霍爾結識的地下絲絨樂隊(The Velvet Underground)。他們中許多人當時正在閱讀維納的作品， 廣播裡也正在播放介紹控制論學說的節目。正是在這樣的一次晚宴中，凱奇從他的手提箱裡拿出一本《控制論》(Cybernetics)交給我，說:“這是給你的。”

在此期間，我意外地接到維納的同事阿瑟·K. 所羅門(Arthur K. Solomon)給我打來的電話，他是哈佛大學生物物理學研究生學院的院長。當時，維納一年前已經去世，但所羅門與維納在麻省理工學院和哈佛大學的一些關繫密切的同事，一直在關注《紐約時報》上關於“擴延電影節”的報道，對其與維納作品扯上關繫頗感好奇。所羅門邀請我帶著一些藝術家去劍橋與他和其他一些專家會面，包括麻省理工學院研究感官通信的沃爾特·羅森勃利斯(Walter Rosenblith)，哈佛大學應用數學家安東尼·歐廷格(Anthony Oettinger)，麻省理工學院工程師、頻閃光的發明人哈羅德·埃傑頓(Harold “Doc”Edgerton)等。

就像我以前遇到過的許多次“藝術遭遇科學”一樣，由於我對科學所知不多，這次為期兩天的會面不算很成功，就像輪船行駛在暗夜裡。但我盡可能地吸收了一切營養，而且從很多有趣的方面看，這次會面非常重要，其中一點就是他們帶我們去看了“那臺”計算機。在當時，計算機可是個稀罕物，至少我們這些訪客還沒有誰擁有一臺計算機。我們被帶到麻省理工學院裡的一間非常大的屋子，在屋子中間有一個“冷室”，它高於地面，四周是玻璃牆。在“冷室”裡，技術人員穿著白色實驗室服、戴著白色圍巾和手套，正忙碌著核對整理從一個巨型機器裡出來的穿孔卡片。我走到近前，從我口中呼出的熱氣在“冷室”的玻璃上結成一層薄霧。我伸手抹開玻璃上的霧氣，看到了“那臺”計算機。一下子我便深深愛上了它。

後來在 1967 年秋，我來到門洛帕克市和斯圖爾特·布蘭德一起待了一段時間。1965 年我在紐約見過他，當時他是 USCO 藝術家組合的一名外圍成員。當時，他正與身為數學家的妻子洛伊絲(Lois)著手準備《全球概覽》雜志(The Whole Earth Catalog)期的出版發行。當洛伊絲和團隊其他人正干著苦力時，斯圖爾特和我坐在一個角落裡待了兩天，閱讀、標記和注解前一年凱奇給我的那本《控制論》，討論維納的思想。

這些思想給了我靈感，我開始提出一個主題，也像一個魔咒，讓我以後的所有努力有了方向，那就是“新技術=新感知”。在媒介理論家馬歇爾·麥克盧漢、建築設計師巴克敏斯特·富勒(Buckminster Fuller)、未來主義者約翰·麥克黑爾(John McHale)，還有文化人類學家愛德華·T. 霍爾(Edward T. Hall)和埃德蒙·卡彭特(Edmund Carpenter)的啟發下，我開始大量閱讀信息論、控制論和繫統論等領域的書籍。麥克盧漢推薦我閱讀生物學家 J. Z. 揚(J. Z. Young)的《科學中的懷疑與確定性》(Doubt and Certainty in Science)，在書中作者認為我們創造了工具，並通過使用這些工具來塑造自我。他推薦我閱讀的另一個文本是沃倫·韋弗(Warren Weaver)和克勞德·香農在 1949 年所寫的文章《通信數學理論的新貢獻》(Recent Contributions to the Mathematical Theory of Communication)。在這篇文章開頭，作者寫道:“‘通信’一詞將被廣泛使用，其意義包括一個心靈影響另一個心靈的所有過程。這當然不僅僅指寫作和演講，還指音樂、繪畫、戲劇、芭蕾，甚至人類的所有行為。”

誰能想到，從那往後的 20 年裡，我們會開始把大腦比作計算機?誰又能想到，在接下來的另一個20 年裡，當我們把計算機連成互聯網時，大家纔意識到大腦不是一臺計算機，而是一個計算機網絡?當然，維納沒有想到——雖然他是設計用於控制機器的模擬反饋電路的專家，藝術家們也沒有想到，我自己更沒有想到。