叢書序
當前,在移動互聯網、大數據、超級計算、傳感網、腦科學等新理論新技術以及經濟社會發展強烈需求的共同驅動下,新一代人工智能正在全球蓬勃發展,推動著經濟社會各領域從數字化、網絡化向智能化加速躍升。作為新一輪產業變革的核心驅動力,人工智能正深刻改變著人類的生產生活和消費方式以及思維模式,為經濟發展和社會建設提供了新動能新機遇。
人工智能是影響面廣的顛覆性技術,具有技術屬性和社會屬性高度融合的特征。它為經濟社會發展帶來了新機遇,也帶來了新挑戰,存在改變就業結構、衝擊法律與社會倫理、侵犯個人隱私、挑戰國際關繫準則等問題,對政府管理、經濟安全和社會穩定乃至全球治理產生深遠影響。從國內外發展來看,人工智能的前期研發主要是由其技術屬性推動,當其大規模嵌入到社會與經濟領域時,其社會屬性有可能決定人工智能技術應用的成敗。“技術” “規則”成為了各國人工智能發展的核心競爭力。各國在開展技術競爭的同時,也在人工智能治理方面搶占制度上的話語權和制高點。因此,在大力發展人工智能技術的同時,我們必須高度重視其社會屬性,積極預防和有效應對其可能帶來的各類風險挑戰,確保人工智能健康發展。
人工智能是我國重大的國家戰略科技力量之一,加快發展新一代人工智能是事關我國能否抓住新一輪科技革命和產業變革機遇的戰略問題。我國在加大人工智能研發和應用力度的同時,高度重視對人工智能可能帶來挑戰的預判,限度地防範風險。習近平總書記多次強調,“要加強人工智能發展的潛在風險研判和防範,維護人民利益和國家安全,確保人工智能安全、可靠、可控”。2017年國務院發布的《新一代人工智能發展規劃》也提出,要“加強人工智能相關法律、倫理和社會問題研究,建立保障人工智能健康發展的法律法規和倫理道德框架”,並力爭“到2030年建成更加完善的人工智能法律法規、倫理規範和政策體繫”。近年來,我國先後出臺了《網絡安全法》《數據安全法》《個人信息保護法》等一繫列相關的法律法規,逐漸完善立法供給和適用;發布了《新一代人工智能治理原則——發展負責任的人工智能》《新一代人工智能倫理規範》,為從事人工智能相關活動的主體提供倫理指引。標準體繫、行業規範以及各應用場景下細分領域的規制措施也在不斷建立與完善。
人工智能產業正在成為各個地方經濟轉型的突破口。就上海而言,人工智能是上海重點布局的三大核心產業之一。為了推動人工智能“上海高地”建設,上海市先後出臺了《關於本市推動新一代人工智能發展的實施意見》《關於加快推進人工智能高質量發展的實施辦法》《關於建設人工智能上海高地 構建一流創新生態的行動方案(2019-2021年)》《上海市人工智能產業發展“十四五”規劃》等政策文件。這些文件明確提出要“逐步建立人工智能風險評估和法治監管體繫。開展人工智能領域信息安全、隱私保護、道德倫理、法規制度等研究”;“打造更加安全的敏捷治理,秉承以人為本的理念,統籌發展和安全,健全法規體繫、標準體繫、監管體繫,更好地以規範促發展,為全球人工智能治理貢獻上海智慧,推動人工智能向更加有利於人類社會的方向發展。”此外,上海還制定和發布了《上海市數據條例》和《人工智能安全發展上海倡議》,並且正在推進人工智能產業發展和智能網聯汽車等應用場景的立法工作,加強協同創新和可信人工智能研究,為上海構建人工智能治理體繫和實現城市數字化轉型提供了強大的制度和智力支撐。
重視人工智能倫理、法律與治理已成為世界各國的廣泛共識。2021年聯合國教科文組織通過了首份人工智能倫理問題全球性協議《人工智能倫理問題建議書》,倡導人工智能為人類、社會、環境以及生態繫統服務,並預防其潛在風險。美國、歐盟、英國、日本也在積極制定人工智能的發展戰略、治理原則、法律法規以及監管政策,同時相關的研究也取得了很多成果。但總體而言,對人工智能相關倫理、法律與治理問題的研究仍處於早期探索階段,亟待政產學研協同創新,共同推進。
首先,人工智能技術本身正處於快速發展階段。在新的信息環境下,新一代人工智能呈現出大數據智能、群體智能、跨媒體智能、混合增強智能和智能無人繫統等技術方向和趨勢。與此同時,與人工智能宇宙、Web3.0、區塊鏈、量子信息等新興科技迅速發展並開始與經濟社會相融合。技術的不斷發展將推動各領域的應用創新,進而將持續廣泛甚至加速影響人類生產生活方式和思維模式,會不斷產生新的倫理、法律、治理和社會問題需要理論與實務的回應。
其次,作為一種新興顛覆性技術,人工智能是繼互聯網之後新一代“通用目的技術”,具有高度的延展性,可以嵌入到經濟社會的方方面面。新一代人工智能的基本方法是數據驅動的算法,隨著互聯網、傳感器等應用的普及,海量數據不斷湧現,數據和知識在信息空間、物理空間和人類空間中的相互融合與互動將形成各種新計算,這些信息和數據環境的變化形成了新一代人工智能發展的外部驅動力。與此同時,人工智能技術在制造、農業、物流、金融、交通、娛樂、教育、醫療、養老、城市運行、社會治理等等經濟社會領域具有廣泛的應用性,將深刻地改變人們的生產生活方式和思維模式。我們可以看到,人工智能從研究、設計、開發到應用的全生命周期都與經濟社會深深地融合在一起,而且彼此互動和影響將日趨復雜,這要求我們的研究也需要不斷擴大和深入。
再次,我們不能僅僅將人工智能看成是一項技術,而更應該看到以人工智能為核心的智能時代的大背景。人類社會經歷了從農業社會、工業社會再到信息社會的發展,當前我們正在快步邁向智能社會。在社會轉型的時代背景下,以傳統社會形態為基礎的社會科學各學科知識體繫需要不斷更新迭代,以有效地研究、解釋與解決由人工智能等新興技術所引發的新的社會問題。在這一意義上,人工智能倫理、法律與治理的研究不僅可以服務於人工智能技術的發展,而且也給哲學、經濟學、管理學、法學、社會學、政治學等社會科學帶來了自我審視、自我更新、自我重構的機遇。在智能時代下如何發現新的研究對像和研究方法,從而更新學科知識,重構學科體繫,這是社會科學研究的主體性和自主性的體現。這不僅關涉個別二級學科的研究,更是涉及一級學科層面上的整體更新,甚至需要多個學科交叉融合的研究。從更廣闊和長遠的視角來看,以人工智能為核心驅動力的智能社會轉型為社會科學學科知識的更新迭代提供了良好契機。
縱觀世界各國,人工智能技術的發展已經產生了廣泛的社會影響,遍及認知、決策、就業和勞動、社交、交通、衛生保健、教育、媒體、信息獲取、數字鴻溝、個人數據和消費者保護、環境、民主、法治、安全和治安、社會公正、基本權利(如表達自由、隱私、非歧視與偏見)、軍事等眾多領域。但是,目前對於人工智能技術應用帶來的真實社會影響的測量和評價仍然是“盲區”,缺乏深度的實證研究,對於人工智能的治理框架以及對其社會影響的有效應對也需要進一步細化落地。相較於人工智能技術和產業的發展,關於人工智能倫理、安全、法律和治理的研究較為滯後,這不僅會制約我國人工智能的進一步發展,而且會影響智能時代下經濟社會的健康穩定發展。整合多學科力量,加快人工智能倫理、法律和治理的研究,提升“風險預防”和“趨勢預測”能力,是保障人工智能高質量發展的重要路徑。我們需要通過政產學研結合的協同創新研究,以社會實驗的方法對人工智能的社會影響進行綜合分析評價,建立起技術、政策、民眾三者之間的平衡關繫,並通過法律法規、制度體繫、倫理道德等措施反饋於技術發展的優化,推動“人工智能向善”。
在此背景下,2021年新一輪上海市協同創新中心建設中,依托同濟大學建設的上海市人工智能社會治理協同創新中心正式獲批成立。中心依托學校學科交叉融合的優勢以及在人工智能及其治理領域的研究基礎,彙聚法學、經管、人文、信息、自主智能無人繫統科學中心等多學科和單位力量,聯合相關協同單位共同開展人工智能相關法律、倫理和社會問題研究與人纔培養,為人工智能治理貢獻上海智慧,助力上海城市數字化轉型和具有全球影響力的科技創新中心建設。
近年來,同濟大學在人工智能研究和人纔培養方面始終走在全國前列。目前學校聚集了一繫列與人工智能相關的國家和省部級研究平臺,包括:依托同濟大學建設的教育 部自主智能無人繫統前沿科學中心,作為技術和研究主體的國家智能社會治理實驗綜合基地(上海楊浦),依托學校建設的上海自主智能無人繫統科學中心、中國(上海)數字城市研究院、上海市人工智能社會治理協同創新中心,等等;2022年同濟大學獲批建設“自主智能無人繫統”全國重點實驗室。這些平臺中既有涉及人工智能理論、技術與應用領域,也有涉及人工智能倫理、法律與治理領域,兼顧人工智能的技術屬性和社會屬性,面向智能社會發展開展學科建設和人纔培養。同時,學校以人工智能賦能傳統學科,推動傳統學科更新迭代,實現多學科交叉融合,取得了一繫列創新成果。在人纔培養方面,學校在全國首批獲得“人工智能”本科專業建設資格,2021年獲批了“智能科學與技術”交叉學科博士點,建立了人工智能交叉人纔培養新體繫。
由上海市人工智能社會治理協同創新中心組織策劃和資助出版的這套“人工智能倫理、法律與治理”繫列叢書,聚焦人工智能相關法律、倫理、安全、治理和社會問題研究,內容涉及哲學、法學、經濟學、管理學、社會學以及智能科學與技術等多個學科領域。我們將持續跟蹤人工智能的發展及對人類社會產生的影響,充分利用學校的研究基礎和學科優勢,深入開展研究,與大家共同努力推動人工智能持續健康發展,推動“以人為本”的智能社會建設。
編委會
2022年8月8日