凱倫•楊：英國牛津大學法學博士，英國伯明翰大學法學院和計算機學院的跨學科教授，墨爾本大學法學院傑出訪問研究員，歐盟人工智能高級別專家組成員、歐洲犯罪問題委員會（CDPC）人工智能和刑法專家工作組特別顧問。曾擔任納菲爾德生物倫理委員會基因組編輯和人類生殖工作組主席（2016-2018）、世界經濟論壇全球未來生物技術理事會成員。出版有《法律、規制和技術牛津手冊》《法律與規制簡介》等著作，在《Modern Law Review》《Legal Studies》等發表多篇論文。

馬丁•洛奇：倫敦政治經濟學院教授，研究方向為政治學和公共政策，兼任風險和監管分析中心主任。

林少偉：西南政法大學民商法學院副教授，商法教研室副主任。英國愛丁堡大學法學博士、倫敦國王學院商法碩士、西南政法大學法學學士；重慶市青年撥尖人纔計劃入選者、霍英東教育基金獎獲得者。

唐林垚：中國社會科學院法學研究所助理研究員、博士後。清華大學民商法博士、日本東北大學法政理論博士、美國哥倫比亞大學碩士；王保樹優秀博士論文獎、國家優秀自費留學生獎學金獲得者。

主編序/1

中文版序/1

章   算法規制：述略

1. 引言/1

2. 何為算法規制？/4

3. 是否有新發現？/6

4. 理解作為一種復雜“社會—技術”繫統的算法規制/8

5. 本書的結構和內容/13

部分規範性問題

第二章   自動化決策，何憂之有？

1. 引言/21

2. 自動化決策繫統之憂/23

3. 數據導向型預測和個性化信息服務/32

4. 應對之法：聚焦正義、權利、過錯、危害/36

5. 結論/40

第三章  自動化決策及其對人類的影響

1. 引言/50

2. 自動化決策：科技/53

3. 刑事司法領域的機器學習/58

4. 結論/74

第四章  數字歧視

1. 引言/89

2. 數字歧視樣例/94

3. 數據歧視解決方案之研究/96

4. 數字歧視未解之患/99

5. 結論/102

第五章   日常生活中算法外包的倫理

1. 引言/106

2. 了解算法工具/108

3. 算法工具會削弱自主性嗎？/111

4. 但這一回有何不同？/119

5. 我們該如何應對？/123

6. 結論/125

第二部分公共部門應用

第六章   算法行政？公共管理與機器學習

1. 引言/133

2. 自動化繫統/135

3. 增強繫統/137

4. 算法社會化的學術討論/139

5. 管理公共管理部門的機器學習應用/140

6. 結論/154

第七章   公共服務中算法規制的實際挑戰

1. 引言/166

2. 數據在監管中的作用/168

3. 風險評估/170

4. 案例一：“智能監管”與護理質量委員會/176

5. 案例二：英國教育質量保證局的監管實踐/179

6. 算法評定的必要條件/188

7. 結論/190

第八章    公共服務中算法規制的反思

1. 引言/198

2. 監管能力與算法規制/201

3. 用算法規範公共服務/205

4. 誰來監管算法？/214

5. 結論/216

第三部分管理算法繫統

第九章   算法、規則和治理準備

1. 引言/225

2. 政府準備/228

3. 算法的危害和它們的治理挑戰/232

4. 評估治理準備/236

5. 結論/239

第十章  法律從業者視角下的人工智能風險規制

1. 引言/250

2. 機器學習帶來的法律挑戰/251

3. 數據的作用/258

4. 人工智能風險規制：合同的進路/261

5. 促進合規的合同條款/264

6. 公司治理依賴自然人決策/267

7. 監管模型/268

8. 結論/273

第十一章  關注機器2.0時代：

歐盟《通用數據保護條例》和自動化決策

1. 引言/277

2. 關注機器1.0時代/278

3. 《通用數據保護條例》第22條/280

4. 復盤機器1.0時代/285

5. 馴服機器？/288

參考文獻/298

立法索引/339

關鍵詞索引/342

譯後記/353

中文版序

此時此刻，由於新冠病毒的迅速蔓延，世界各國正處於一場非同尋常、史無前*的全球衛生突發事件之中。隨著整個歐洲死亡人數的持續上升，中國所采取的一繫列防控機制似已成功遏制了該病毒的傳播。在短短數周內，很多西歐國家也開始對公民流動自由施加非常嚴格和具有法律執行力的限制。此刻的我，正窩在英國的家中寫著序言，截至此時，英國已歷經一個多月的強制性封鎖，而近新冠病毒死亡率的下降，似乎表明英國已過了疫情拐點。

據報道，中國政府為防控機制采取了諸多措施，其中包括健康碼，即通過數字應用程序跟蹤中國居民的流動軌跡，彙總相關數據後進行算法分析。其目的在於通過收集人群位置跟蹤生成數據，以確定某個人是否可能與感染者接觸、是否到過具有一定風險的區域或是否有過一定癥狀，據此生成三種顏色的健康碼：綠色代表可自由通行，黃色代表具有一定風險，須進行一定天數(比如7天)的隔離，而紅色則可能意味著需要集中隔離(14天)。盡管這些措施能否成功防止疫情再次暴發有待觀察，但關於健康碼如何采集數據、依據何種算法規則等方面卻存在切實盲區。

彼時之下，英國民眾心急火燎，迫切想知道還需封鎖多久，什麼時候可以放寬管制，政府會采取什麼措施遏制疫情並防止其再次暴發。目前，英國政府還沒有真正開始監控個人流動軌跡，但在封鎖初期，已有一些移動通訊公司與英國政府溝通，討論共享個人用戶位置數據的可能性。人權組織對此表示抗議，擔心這種侵犯隱私的措施在疫情結束後會趨於常態化。但英國政府剛剛宣布，國家醫療服務局(National Health Service)將很快推出一款數字應用程序，個人可以自願下載，以便於追蹤接觸者。英國政府希望該應用程序有助於遏制疫情，進而為放松封鎖、恢復自由和重啟經濟鋪平道路。然而，包括民權組織在內的諸多評論人士群起攻之，認為該程序是對隱私的赤裸裸侵犯。以此看來，英國民眾陷入兩難境地，他們隻能用一種對基本權利的嚴重干預換取另一種基本權利的保有：以對隱私權和數據權的干預置換一定的行動自由。隨著“封鎖疲勞”壓力的日積月累，即便這一應用程序在減少病毒傳播方面的有效性懸而未決，人們也很可能會心甘情願地接受這一交易，以換得行動自由，盡管這可能意味著隱私和數據保護會具有較高的長期成本。

誠然，對隱私和數據保護的潛在威脅之擔憂可能有一定道理。但如果通過算法規則對大規模數據進行連續、實時的收集和分析能夠行之有效地控制疫情，那麼公眾也會認可這是一種合理的取舍和平衡。簡而言之，使用接觸者應用程序來控制疫情傳播所帶來的算法規制問題，既彰顯了算法內生性潛在力量，也使其雙刃性特征暴露無遺。因為算法既能造福全人類，也會對基本權利構成威脅。

目前來看，新冠病毒疫情何時結束、如何結束，可謂無人能知。但後疫情時代的世界將與之前截然不同，這可謂毋庸置疑。此次疫情已使得我們的生活發生了史無前*的變革，也引發全球範圍內的政策應對，這在以前難以想像，至少對於西方國家而言，尤其如此。

本書在新冠病毒疫情暴發之前業已出版，因此，讀者如以後疫情的視角閱讀，可能會認為本書忽視了某些領域或視角。盡管如此，筆者仍然相信，本書各位作者所提供的見解仍具有相當重要的價值。毋庸置疑，算法規制的角色將會繼續擴大和深化。如果算法終證明其在控制和減少新冠病毒傳播方面能夠發揮重要而寶貴的作用，則這些算法工具將會在政府部門和企業組織中更加炙手可熱。但這種趨勢究竟值得普天同慶還是不祥之兆，不無疑問。這也從另一側面映射出本書的價值，即讀者諸君可以在批判性閱讀本書各章觀點的基礎上，進一步深化算法規制的相關研究。

很榮幸本書可以在中國出版，我要特別感謝林少偉和唐林垚承擔此項翻譯工作，使本書得以面向更多的讀者。林少偉此前翻譯過我兩篇論文並在中國的期刊上發表，本書的翻譯和出版將進一步加深我們之間的友誼和合作。

凱倫·楊

2020年4月30日

英國伯明翰