以人工智能、基因編輯、大數據與量子計算為核心的前沿科技時代呼嘯而至。其中，人工智能的發展備受關注。盡管我們認為人類距離強人工智能時代還很遙遠，但是其廣泛的應用場景已經開始深刻影響我們的生活方式、理念，甚至人之所以為人的思考。

過去幾年全球提出了諸多倫理與治理原則，以應對前沿科技發展帶來的挑戰。這些原則大都建立在工業文明時代的人類中心主義、人的能動性和主體性等哲學思考上。但是這些理念和原則足以構建前沿科技時代人類和其他物種共同命運的基礎價值觀嗎？科技不僅僅推動了技術應用的迭代，也促使我們反思被奉為圭臬的哲學理念和框架，推動人類深刻地自省、自覺。如果從“道”與“術”的角度來看，當下的討論更多地關注“術”。本書希望在“道”的層面，引發哲學家和科學家的思考。

鋻於此，博古睿研究院中國中心自2017年11月至今，聚集了哲學界和思想界的專家，以“人工智能遇見中國哲學家”為主題，組織了數次工作坊和研討會，推進科學家與哲學家的交流、溝通。本書就是這些觀點討論與思想激蕩的初步成果。

這是嶄新的嘗試和探索。從人工智能這一世界性熱點話題切入，書中的視域觸及了人類在當下高科技時代面臨的全面困境，以及人類自省、自覺的重要性。學者們的討論也覆蓋了新科技時代的問題意識、前沿科技的思維方式，以及中國傳統思想在新時代對全人類的貢獻。

趙汀陽
中國社會科學院學部委員、哲學研究所研究員
張祥龍
北京大學哲學繫教授
何懷宏
北京大學哲學繫教授
姚中秋
中國人民大學國際關繫學院教授
貝淡寧
山東大學政治學與公共管理學院院長
劉曉力
中國人民大學哲學院教授
程樂松
北京大學哲學繫教授
安靖如
維思大學全球學中心主任、哲學教授
李晨陽
南洋理工大學哲學教授
干春松
北京大學哲學繫教授、儒學研究院副院長
王蓉蓉
洛杉磯羅耀拉大學哲學教授
蓋菲
雲南大學哲學繫講師
劉豐河
醫學教育工作者
李四龍
北京大學哲學繫教授
陳小平
中國科學技術大學機器人實驗室主任
蔡恆進
卓爾智聯研究院、武漢大學計算機學院教授
曾毅
中國科學院自動化研究所研究員

宋冰
博古睿研究院副院長、北京大學博古睿研究中心聯席主任。曾長期從事國際證券法與投資銀行方面的工作。職業生涯早期，她在行政法、競爭法等領域發表諸多學術論文，並編譯《美國與德國司法制度及司法程序》等比較法方面的書籍。

序言
智能與智慧：人工智能遇見中國哲學家——宋冰
部分 中西學交融語境下的哲思
技術的無限進步也許是一場不可信任的賭博——趙汀陽
人性、時間意識與人工智能新境——張祥龍
回到“軸心時代”思考人工智能——何懷宏
人工智能，吾與也——姚中秋 
從馬克思主義和儒家的視角看人工智能——貝淡寧
人類意識與機器意識的演化——劉曉力
淺識、誤解與想像力——程樂松
第二部分 人工智能帶給儒釋道的挑戰與機會
人工智能會幫助我們獲得真正的美德嗎——安靖如
機器智能的興起與人之為人理想的終極——李晨陽
人工智能的發展對儒家倫理所可能帶來的影響——干春松 
機器人能否循道而行——王蓉蓉 
當人工智能遇見道教——蓋菲
解決人類生死煩惱的根本智慧——劉豐河 
新人文與生命價值——李四龍
第三部分 科技哲思
人工智能中的不確定性問題與哲學研究——陳小平 
成己而聖：在此岸建構理念世界——蔡恆進 
構建人類與人工智能和諧共生社會——曾毅 
編後記
和諧與慈悲：前沿科技時代的基礎價值觀——宋冰
致謝

技術的無限進步也許是一場不可信任的賭博
趙汀陽
和其他生物一樣，人的實體存在也是一種自然生物，但人創造了文明，所以我們經常從精神上去定義人，且定義方式多種多樣，其中有兩種特別重要的定義路徑：（1）按照古希臘傳統，可以把人定義為理性精神，即人的本質在於理性思維；（2）按照儒家傳統，把人定義為人際關繫中的人。孔子的這個定義采用的是關繫性的循環解釋，比亞裡士多德的“屬加種差”定義方式要復雜一些。孔子的定義方式類似於現代公理繫統對基本概念的定義方式。孔子的意思是，一個人無法根據自然性把自己定義為人，而必須在與他人的關繫中纔能被定義。以現代的表述來說就是：每一個作為生物的人，如果可以被識別為一個精神上的人，當且僅當他把別人識別為精神上的人。按照孔子定義的人的概念，人的關繫先於人的本質。有趣的是，圖靈所設想的“圖靈測試”采用的也是關繫定義，即如果一臺機器在與人對話中能夠被識別為人，那麼它就是一個智能存在。不過，到目前為止，還沒有一臺機器能夠通過圖靈測試。其他還有一些比較重要的人的概念，比如，康德把人理解為具有理性自主性的主體性，馬克思把勞動理解為人的本質，等等。
人是一個復雜概念，不可能化簡為某種單一本質。比如，理性雖然是人的一個性質，但我們很難由此就認為動物沒有理性。理性的一個基本原則是風險規避，從行為上看，動物的風險規避能力似乎高過人，或者說，人比動物更願意進行非理性的冒險。還有，理性要求價值排序的邏輯一致性，在這一點上，動物也強過人。人總是欲望太多，貪得無厭，經常陷於“布裡丹之驢”的選擇困境。所以隻能說，人有著更強的理性能力，但同時人也有非理性的傾向。我可能無法給人一個完美的定義，但我認為，至少有兩個特點對於人的概念是重要的：（1）仁，即互相把他人識別為人；（2）理性反思的自我意識，即能夠反思自己的行為、價值觀和思想的合理性。
人的非理性是一個謎。不過，在這裡我不是要討論心理學的潛意識或無意識之類的問題，而要討論的是有著自覺意識的非理性，也就是說，人經常以理性思維去實現非理性的目標。這正是人類的危險之處。人工智能和基因編輯的努力就是試圖以理性思維去實現非理性目標的典型事例。長期以來，人類的技術發展都隻限於技術的升級，而技術升級屬於理性目標，但人工智能和基因編輯不僅僅是技術革命，而且是存在論水平上的革命，相當於人類自己試圖發動類似於上帝的創世行為，它意味著人類試圖改變人的概念。這種目標還是理性的嗎？這是個大問題。存在論級別的生命升級誘惑，即人試圖變成另一種具有神性的更高級存在，這是現代主體性思維的一種夢想。追溯其根源，現代的主體性夢想其實始於中世紀的宗教信仰，這件事情聽起來很悖謬，因為上帝的概念不可能蘊含一個革命性的人的概念，但事實上許多不合邏輯的事情確實就產生於矛盾之中。粗略地說，中世紀的僧侶和學者希望能夠理解上帝的精神，而理解上帝就需要了解上帝創造的萬物，因此，中世紀的人們研究了各種事物，從植物、動物到海妖、天文。盡管以現代知識標準來看，中世紀的研究大多數是不科學的，但其重要意義不在於科學性，而在於求知性。對萬物的求知潛伏著一個顛覆神學的人文問題：既然需要研究一切事物，那麼應該研究人，因為人是萬物中為奇妙的存在，包含著上帝創世的多秘密。事實上，“現代人”彼得拉克就是依照上述邏輯而發現了人的問題。一旦人對自己的反思成為一切知識的核心，人就占據了思想的核心地位，進而人就發現了，一切存在都隻不過是“我思”的對像，於是，人的問題就高於一切問題。在此可以看到，正是宗教的知識追求培養了宗教的掘墓人。笛卡兒、貝克萊、霍布斯、康德等所建立的主體性將人定義為自主獨立的存在，人成為萬物的立法者，於是一個現代人的概念由此建構起來。後來，主體性概念不斷膨脹，人擁有的天賦權利越來越多， 以至已經遠遠突破了自然人的概念，成為一種“自定人”，即自己決定自己成為什麼樣的人。這意味著，人不滿足於自然或上帝所創造的原本狀態，也不滿足於被社會和歷史所定義的事實，而可以成為自己想要的人。我們今天通常認同的現代人的概念正是“自定人”的概念， 在這個意義上說，基因編輯的人或人工智能都是“自定人”概念的邏輯結果。
人為自己設立的主體性，或者“自定人”概念，就其內在邏輯而言，意味著以下意義：（1）人是具有自主意志和思想的主體， 擺脫了上帝的精神支配，因此獲得了存在論水平上的自由（也稱形而上的自由）。（2）存在論水平上的自由意味著，人可以塑造自己，重新定義自己，甚至創造自身，也就是說，人獲得了存在論水平上的完全主權。（3）存在論的主權意味著，每個人都是自己的邏輯起點，不再需要歷史的起點，不再被歷史所說明，也不再被社會條件所說明，更不需要被他人觀點所解釋，於是，個人高於歷史、高於社會背景、高於自然性。簡單地說，存在論水平上的自由就是取消歷史、社會和自然對人的說明和規定。（4）既然每個人都不被歷史、社會和自然所定義，每個人都是自己的邏輯起點，那麼每個人就可以為自己選擇人的概念，而選擇人的概念就要選擇“好的”概念，即兼備一切優越功能的人。按照這個概念及其邏輯，人工智能和基因編輯就幾乎勢在必行。
起初，“自定人”的努力並沒有顯示出危險性，反而是人類的偉大成就。“自定人”的初步驟隻是教育，試圖通過教化自然人，使之成為啟蒙人，人類文明因此獲得巨大的發展，進而出現了優生學，通過自然生殖的基因組合而造就更優秀的人。在當代，人們更進一步以政治權利之名去重新定義人，比如變性人、同性婚姻、女性主義之類。曾有新聞稱，有一個歐洲人申請把出生日期從1949年改為1969年，理由是他對1969年出生的人更有認同感，所以決定變成1969年出生的人。雖然被拒絕了，但是他提出了難以反駁的論證，他認為，既然別人可以違背自然而進行變性，那麼同理，他也應該可以違背自然而要求改變出生日期。這個新聞是否屬實並不重要，關鍵在於這個人的論證很符合“自定人”的邏輯。可以想像，以此類推，人們隻要願意，就能夠以主體性的名義提出種種要求。因此，隻要具備技術條件，基因編輯和人工智能的出現都是必然的。正如宗教的知識追求培養了宗教的掘墓人，現代的主體性邏輯也同樣培養了主體性的掘墓人—隻要堅持主體性的概念。那麼，基因科學創造的“超人”或者人工智能創造的超級智能就都是合乎邏輯的結果，而這種結果卻很可能是對人類主體性的徹底否定。
上帝造人是一個神話，這雖然不是一個科學問題，卻是一個重要的隱喻：上帝創造了與他自己一樣有著自我意識和自由意志的人，以至上帝無法支配人的思想和行為。上帝之所以敢於這樣做，是因為上帝的能力無窮大，勝過人類無窮倍，所以上帝永遠都高於人。今天，人類試圖創造有自我意識和自由意志的人工智能，可是，人類的能力將小於人工智能，因此這是一種自我否定的冒險。人類為什麼敢於這樣想？為什麼敢於這樣做？此種非理性的行為必須提前加以反思。
為什麼人類所創造的現代神話不能見好就收，及時剎車以避免陷於無法控制的災難？盡管越來越多的人意識到無限發展、無限解放所蘊含的危險，但很少有人能夠抵抗發展和解放的巨大誘惑，即使是飲鴆止渴。這個困境並非一個單純的技術進步問題， 而在於整個現代性的邏輯，即化人為神所蘊含的內在矛盾。被神化的主體性有其兩面，就像硬幣的兩面：一面是作為人類整體的主體神性，就好像人類是一體化的神；另一面是作為獨立、自主、平等個體的眾人，類似於諸神。問題是，主體性的兩面價值並不一致，存在著自相矛盾，類似於硬幣兩面的面值不一致所導致的混亂。在實踐上的結果是，對於人類整體的合理選擇未必是每個人的合理選擇，於是產生了現代社會一個無法擺脫的基本困境：個人理性的加總無法形成集體理性。這意味著，理性與理性的運用是矛盾的。既然現代的價值和利益的結算單位是個人，那麼，理性用於追求個人利益化就必定優先於理性用於追求人類整體利益化，其邏輯結果就是使得合理的集體選擇成為不可能。就目前所知，人工智能和基因編輯是主體性神話的冒險，也是“自定人”的形式，這些技術試圖在物質上和精神上創造新概念的人類。我們無法排除其潛在的巨大風險，更嚴重的是，我們甚至無法預料哪些是人類無法承受的風險。從理性上說，人工智能和基因編輯是違背風險規避原則的工程。
人們似乎特別害怕人工智能的“超人”能力。的確，人工智能的能力正在不斷超越人類，這是人們感到恐懼的原因。但是害怕人工智能的能力，其實是一個誤區。難道人類不是寄希望於人工智能的“超人”能力來幫助人類克服各種困難的嗎？幾乎可以肯定的是，未來的人工智能將在能力上遠遠超過人類，但這絕非真正的危險所在。每一樣機器在各自的特殊能力上都遠遠超過人類，因此，在能力上超過人類的機器從來都不是新奇事物。水平遠超人類圍棋能力的AlphaGo Zero沒有任何威脅，隻是一個有趣的機器人而已；自動駕駛汽車也不是威脅，隻是一種有用的工具而已；人工智能醫生更不是威脅，而是人類醫生的幫手，諸如此類。即使將來有了多功能的機器人，它們也不是威脅，而是新的勞動力。超越人類能力的機器人正是人工智能的價值所在，並不是威脅所在。任何智能的危險性都不在其能力，而在於自我意識。人類能夠控制任何沒有自我意識的機器，因此，沒有自我意識的人工智能越強大就越有用。到目前為止，地球上危險的智能生命就是人類，因為人類的自由意志和自我意識在邏輯上蘊含了一切壞事，事實上，人類也是壞的生物。如果將來出現比人更危險的智能存在，那隻能是獲得自由意志和自我意識的人工智能。因此，無論人工智能的能力多麼強大，都不是真正的危險， 隻有當人工智能獲得自我意識，纔會對人類構成致命的威脅。
那麼，人工智能的升級奇點到底在哪兒？圖靈機如何纔能升級為超圖靈機？或者說，人工智能如何纔能獲得自我意識？就技術層面而言，這個問題隻能由科學家來回答。技術升級的加速度是一個事實，然而不能因此推論說，技術升級必然導致存在升級。技術升級指的是一種存在的功能得到不斷改進、增強和完善；存在升級指的是一種存在變成了另一種更高級的存在。技術升級可以使某種技術達到完美，卻未必能夠使一種存在升級為另一種存在，也就是說，技術升級未必能夠自動達到奇點。許多病毒、魚類、爬行動物或哺乳動物都在功能上進化到幾乎完美，但其技術進步並沒有導致存在升級。物種的存在升級至今仍然是一個無解之謎。就人工智能而言，圖靈機是否能夠通過技術升級而發生存在升級，從而成為超圖靈機，這仍然是一個疑問。更為合理的想像是，除非科學家為人工智能植入導致奇點的存在升級技術，否則，圖靈機很難依靠自身而自動升級為超圖靈機，因為無論多麼強大的算法都無法自動改變給定的規則。我們可以通過數學繫統的能行性的“數學惰性”來理解圖靈機的“技術惰性”： 一個數學繫統在通過有限步驟生產出屬於這個繫統的任何可以證明的命題時，不可能自動產生出對該繫統本身進行命題，隻有當哥德爾以自相關的技術強加於數學繫統，迫使數學繫統反思自身，纔會產生出數學繫統無法自我解釋的反思性命題， 即“哥德爾命題G”。由此可知，圖靈機也不可能自動反思自身而創造出自我意識，不可能對自己提出超圖靈機的反思性命題。
“圖靈測試”以語言對話作為測試標準，是大有深意的，圖靈可能早已意識到了語言能力等價於自我意識功能。思想可以映射為自然語言，而自然語言先驗地具有自我反思的功能，也就是說，任何概念、語句、語法甚至整個語言繫統都可以在語言自身中被反思並且被解釋（比如，人類可以編寫一本包含一種語言全部詞彙的字典，也可以編寫一本解釋全部語法的語法書）。那麼，隻要圖靈機能夠以相當於人類的思想水平回答問題，就可以被確定為具有意識和思維能力的物種。人工智能有希望獲得萬倍於人的量子計算能力，還有各種超過人的專業算法能力以及所有專業知識，以及類腦神經網絡和圖像識別功能，再加上互聯網內無窮信息的助力，人工智能應該有望在不久的將來能夠“正確回答”專業科學級別的大多數問題，獲得比如相當於高級醫生、建築師、工程師、教授所具備的專業知識。我相信將來的人工智能甚至能夠回答宇宙膨脹速度、拓撲學、橢圓的標準方程、費馬定理、黎曼猜想之類的問題，但這些隻不過是人類事先輸入的思想知識，就圖靈機本身的能力而言，那不是思想，隻是程序而已。具有完美能力的圖靈機也恐怕回答不了超出程序能力的“怪問題”。
例如兩種“怪問題”：一種是悖論，另一種是無窮性。除非在人工智能的知識庫裡事先人為設置了回答這兩類問題的“正確答案”，否則屬於圖靈機的人工智能恐怕難以回答悖論和無窮性的問題。應該說，這兩類問題也是人類思想能力的極限。人類能夠研究悖論，但不能真正解決嚴格的悖論（即A 必然推出非A， 而非A 又必然推出A 的自相關悖論）。人類運用數學可以研究無窮性問題，甚至發明了許多相關定理，但在實際上，人類做不到以能行的方式“完全走遍”無窮多個對像而完全理解無窮性，就像萊布尼茲想像的上帝那樣，“一下子瀏覽”了所有無窮多個可能世界。人類之所以不怕那些無法解決的“怪問題”，是因為人具有“不思”的自我保護功能，即可以懸隔無法解決的問題，在思想和知識領域建立一個暫時“不思”的隔離分區，以便收藏所有無法解決的問題，而不會一條道走到黑而陷入無法自撥的思想困境。我想應該不會有人把p 一直算下去，試圖算出後一數。人類能夠自覺地不讓自己做傻事，但圖靈機無法阻止自己做那種永遠得不到答案的傻事。
如果你向圖靈機提問：p 的小數點後一萬位是什麼數？圖靈機必定會苦苦算出來告訴你。如果你再問：p 的後一位是什麼數？圖靈機也會義無反顧地永遠算下去。同樣，如果你問圖靈機：“這句話是假話”是真還是假？（改進型的說謊者悖論）圖靈機也會永遠分析下去。當然，提出這些“怪問題”屬於故意刁難，對圖靈機不公平，因為人類自己也解決不了。那麼，為了公正起見，可以向圖靈機提問一個有實際意義的知識論悖論（源於柏拉圖的“美諾悖論”）：為了能夠找出答案A，就必須事先認識A，否則，我們不可能從魚目混珠的眾多選項中辨認出哪一個是A；可是，既然事先已經認識了A，那麼A 就不是一個未知答案，而是已知的答案，因此結論是，未知的知識其實都是已知的知識。這一結論對嗎？這隻是一個非嚴格悖論，對於人類，此類悖論是有深度的問題，卻不是難題，但對於圖靈機來說恐怕就是一個思維陷阱。