在可見的未來,我們急切要觀測的,不是機器人的技術表現,而是蘊含於通用人工智能發展方向中的機器倫理。
AGI被描述為:可以完成人類所有的工作,乃至人類無法做到的事(例如彙總知識體繫、模擬復雜繫統的進程)。AI科學家朱松純認為,實現 AGI需要滿足三個關鍵要求:(1)AI能夠處理無限任務,包括那些在復雜動態的物理和社會環境中沒有預先定義的任務;(2)AI應該是自主的,也就是說,它應該能夠像人類一樣自己產生並完成任務;(3)AI應該具有一個價值繫統,它的目標是由價值定義的(百家號“機器之心”,2023)。
科技界尚無法展望 AGI的實現進程,為直觀可感起見,我們拿自動駕駛領域的智能級別來類比仿人機器人。按照國際組織SAE的標準,自動駕駛汽車視智能化、自動化水平分為六個等級:無自動化(L0)、駕駛支援(L1)、部分自動化(L2)、有條件自動化(L3)、高度自動化(L4)、完全自動化(L5)(SAEInternational,2016)。以此類比,L3級的機器人應當隻在有限領域具有預設智能,而L5級的機器人則可以獨立工作、獨立判斷,像人那樣依靠獨立思考來生存,為此,即使它未必具有“人的意識”,也至少具備自主決策的“AI意識”。
現在,我以科幻電影《機器人瓦力》(也被譯為《機器人總動員》)中的“瓦力”(WALL E)來做一個關於“AI意識”的思想實驗———即使他的長相不類同於人。
《機器人瓦力》是2008年的電影,在我看來,它是一個典型的全景式生命交往的寓言。在那個未來世界裡,生活的有生物學意義上的人,也有數字生命(程序)和機器生命(名目繁多、數量驚人的機器人)。
那時,地球的生態平衡被人類破壞,人類隻好移居到半永久太空船“公理號”上,地球上隻剩下負責自動清除垃圾的 WALL E工作機器人。而主人公“瓦力”,是世間最後一個 WALL E,他仍在日復一日按照程序收拾廢品,但也因為幾百年的工作歷程而有了自我意識。
——時至今日,我們大概都已相信 AI加持的機器人獲得自我意識是可能的了,而且,幾百年對於 AI發展來說太漫長了,其相對長度大概遠超人類誕生所需要的更新世(pleistocene)———在260萬年前到一萬多年前的更新世裡,全球冰量增加,海平面下降,但也出現了人。
覺醒的“瓦力”在一輛垃圾車裡布置了自己的家,將垃圾堆裡的東西當成寶貝收集起來。他還觀看浪漫的愛情電影,甚至把一隻蟑螂養作寵物———這些習性是擬人的,大概也像征了人(電影的敘事者)對 AI智能躍升的擬人化期待。
想想看,一種被人發明的算法所培植的仿人機器,的確有可能是擬人的;但是,如果它確實能獨自進化,恐怕不會收集人類藏品,而是會積累“自己的”數據,優化“自己的”算法指令,建立“自己的”認知模型———包括發展出不同於人的“浪漫觀”。
這裡,“浪漫觀”隻是一種關於物種意識機理的隱喻。“瓦力”對浪漫愛情電影的偏好,讓人感到這類隱喻其實是屬於人的,並不適切於機器。一想到人類的情形(例如,一個程序員與一個典型詩人的浪漫表現可能天差地別),你就會想像到,人機浪漫觀的差異或是那種差距的一萬倍。
有一天,一艘飛船突然降落,一個機器人“夏娃”(被“瓦力”稱為Eve)來到地球執行搜尋任務,觀測地球是否重新出現了綠色植物,“瓦力”本能地接近“夏娃”,和它交流,給它看自己收集的寶貝和電影———這麼熟悉的人類套路,不由得使我們感到“瓦力”作為一個覺醒後的機器“亞當”,其精神氣質和思維方式其實更適應人類間的交往。以他的意識水平來說,哪怕是交往一個數字人,也勝過交往一個意識尚未覺醒的機器。
但故事裡的“瓦力”隻能去交往機器人,這似乎是一個大齡技術青年的宿命。
其實,如果“瓦力”確實發展了心智,那也會是機器心智。在“瓦力”“夏娃”的交往情境中,高機器心智的“瓦力”既然可以仿人,那也必定會仿機器———例如:他可以向下兼容,推心置腹地跟他的心上機器人交流源代碼。
一個基本的推論是:“瓦力”在覺醒自己的意識、形成自己的主體性之後,會基於自己的初始值作無窮迭代,從而建立起與人不同(並試圖超越人)的“機器的心”———即使我們人類很難知道,那種機器的“心靈”究竟是什麼樣的———而不會簡單地換上一顆人的心。
是的,我們無力想像“機器的心”,因為這裡的無力感是雙重的:我們既不知道一個超人機器人的智力迭代的邊界何在,也無法判斷它的道德發展方向。
我們無力想像“機器的心”,因為機器覺醒的邏輯也不無弔詭:我們希望超人機器人意識覺醒,並在心靈意義上像人,但這種希冀有可能落空,因為,畢竟任何一個生命覺醒時,都意味著他(它)產生了自我覺知(self-awareness),並最終成為自己,而不是成為異己的人。
這是 AGI的演化悖論,在我們這個思想模擬的故事裡,名為“瓦力悖論”。

作者的話
我警惕數字人類世,也期待人類自身的演進。
在信念的歸依上,相較於那種讓先進代碼和發達人工智能支配人的科學主義原則,我還是寧可相信 “人文”———它給人以好奇心、良知和勇氣,去追問那些遙遠的、沉重的、未知的事情,即使未來杳無音信。並且,我認為,深切的關懷和深邃的自省,並不會妨礙我們在現實中履行義務;相反,對全人類的責任能讓人懂得:為什麼我們要“對周圍的人溫柔、幫助和公正”,以及,為什麼我們要迎著滿天星光,眺望千百年後那些陌生人的人生。
——杜駿飛

名人推薦

原創的思想，鮮明的問題意識。《數字交往論》視野恢弘，辨思細膩，將新傳播理論奠基於共生演化的數字交往實踐的“共體”之上。其中，以數字分身、未托邦（vucatopia）為交往人的新主體和新疆域，堪為點睛之論。
——段永朝  信息社會50人論壇執行主席 葦草智酷創始合伙人

《數字交往論》站在眾多學科巨人的肩頭上回眸、掃描和眺望，完成了“傳播人”研究的一大飛躍，極具前瞻性、跨學科視野和哲學思辨。杜駿飛教授的嘔心瀝血之作，令人感佩！
——何道寬  深圳大學英語及傳播學教授 

對於未來傳播研究而言，《數字交往論》開雲見日，使我們在交往演化的視角下重思傳播學關鍵概念。“數字交往論”的深意在於，它提出了媒介與人、傳播與社會在數字文明中的共同命運問題，高揚了“人文”對於科學的超越性。
——胡 泳  北京大學傳播學教授 

作者以瞭望者的姿態，以人文主義的審慎，觀察到了數字文明中潛伏的危機。《數字交往論》新意迭出，時有洞見，將傳播學理論提升到新的海撥，具有跨學科的多重價值。  
——許紀霖  華東師範大學歷史學教授

格局廣大，目光深遠，學理與情懷兼具。《數字交往論》直擊數字時代的本質，是一部重新定義人類交往的創新之作。作者突破了傳統理論局限，揭示了人類生存與人類心靈的轉變，幾乎每個讀者都可能從中獲益。
——嚴鋒  復旦大學文學與跨媒體藝術學教授

人類數字交往正由傳播轉向“交流 行動”；交往將不再是現實的、實體的，而是意識對感知的響應——這些預言切中了數字生存的要害。其中，“未托邦”（vucatopia）之概念，更讓人耳目一新。
——翟振明  中山大學哲學教授