對抗機器學習 機器學習繫統中的攻擊和防御
作 者: (美)葉夫提尼·沃羅見琴科(Yevgeniy Vorobeychik),(美)穆拉特·砍塔爾喬格盧(Murat Kantarcioglu) 著 王坤峰,王雨桐 譯
定 價: 69
出?版?社: 機械工業出版社
出版日期: 2020年01月01日
頁 數: 148
裝 幀: 平裝
ISBN: 9787111643043
●譯者序
前言
致謝
作者簡介
譯者簡介
章引言
第2章機器學習預備知識
2.1監督學習
2.1.1回歸學習
2.1.2分類學習
2.1.3PAC可學習性
2.1.4對抗環境下的監督學習
2.2無監督學習
2.2.1聚類
2.2.2主成分分析
2.2.3矩陣填充
2.2.4對抗環境下的無監督學習
2.3強化學習
2.3.1對抗環境下的強化學習
2.4參考文獻注釋
第3章對機器學習的攻擊類型
3.1攻擊時機
3.2攻擊者可以利用的信息
3.3攻擊目標
3.4參考文獻注釋
第4章決策時攻擊
4.1對機器學習模型的規避攻擊示例
4.1.1對異常檢測的攻擊：多態混合
4.1.2對PDF惡意軟件分類器的攻擊
4.2決策時攻擊的建模
4.3白盒決策時攻擊
4.3.分類器的攻擊：對抗性分類器規避
4.3.2對多類分類器的決策時攻擊
4.3.3對異常檢測器的決策時攻擊
4.3.4對聚類模型的決策時攻擊
4.3.5對回歸模型的決策時攻擊
4.3.6對強化學習的決策時攻擊
4.4黑盒決策時攻擊
4.4.1對黑盒攻擊的分類法
4.4.2建模攻擊者信息獲取
4.4.3使用近似模型的攻擊
4.5參考文獻注釋
第5章決策時攻擊的防御
5.1使監督學習對決策時攻擊更堅固
5.2最優規避魯棒性分類
5.2.1最優規避魯棒的稀疏SVM
5.2.2應對自由範圍攻擊的規避魯棒SVM
5.2.3應對受限攻擊的規避魯棒SVM
5.2.4無限制特征空間上的規避魯棒分類
5.2.5對抗缺失特征的魯棒性
5.3使分類器對決策時攻擊近似堅固
5.3.1松弛方法
5.3.2通用防御：迭代再訓練
5.4通過特征級保護的規避魯棒性
5.5決策隨機化
5.5.1模型
5.5.2最優隨機化的分類操作
5.6規避魯棒的回歸
5.7參考文獻注釋
第6章數據投毒攻擊
6.1建模投毒攻擊
6.分類的投毒攻擊
6.2.1標簽翻轉攻擊
6.2.2對核SVM的中毒數據插入攻擊
6.3對無監督學習的投毒攻擊
6.3.1對聚類的投毒攻擊
6.3.2對異常檢測的投毒攻擊
6.4對矩陣填充的投毒攻擊
6.4.1攻擊模型
6.4.2交替最小化的攻擊
6.4.3核範數最小化的攻擊
6.4.4模仿普通用戶行為
6.5投毒攻擊的通用框架
6.6黑盒投毒攻擊
6.7參考文獻注釋
第7章數據投毒的防御
7.1通過數據二次采樣的魯棒學習
7.2通過離群點去除的魯棒學習
7.3通過修剪優化的魯棒學習
7.4魯棒的矩陣分解
7.4.1無噪子空間恢復
7.4.2處理噪聲
7.4.3高效的魯棒子空間恢復
7.5修剪優化問題的高效算法
7.6參考文獻注釋
第8章深度學習的攻擊和防御
8.1神經網絡模型
8.2對深度神經網絡的攻擊：對抗樣本
8.2.1l2範數攻擊
8.2.2l∞範數攻擊
8.2.3l0範數攻擊
8.2.4物理世界中的攻擊
8.2.5黑盒攻擊
8.3使深度學習對對抗樣本魯棒
8.3.1魯棒優化
8.3.2再訓練
8.3.3蒸餾
8.4參考文獻注釋
第9章未來之路
9.1超出魯棒優化的範圍
9.2不完全信息
9.3預測的置信度
9.4隨機化
9.5多個學習器
9.6模型和驗證
參考文獻
索引
內容簡介
本書討論機器學習中的安全性問題，即討論各種干擾機器學習繫統輸出正確結果的攻擊方法以及對應的防御方法。書中首先回顧機器學習的概念和方法，提出對機器學習攻擊的總體分類。然後討論兩種主要類型的攻擊和相關防御：決策時攻擊和投毒攻擊。之後，討論針對深度學習的攻擊的新技術，以及提高深度神經網絡魯棒性的方法。很後，討論對抗學習領域的幾個重要問題。本書旨在為讀者提供在對抗環境下成功從事機器學習研究和實踐所必需的工具，適合對對抗機器學習領域感興趣的讀者閱讀。
(美)葉夫提尼·沃羅見琴科(Yevgeniy Vorobeychik),(美)穆拉特·砍塔爾喬格盧(Murat Kantarcioglu) 著 王坤峰,王雨桐 譯
葉夫根尼·沃羅貝基克（Yevgeniy Vorobeychik）2008年在密歇根大學獲得計算機科學與工程博士學位，目前是美國範德堡大學的計算機科學、計算機工程和生物醫學信息學助理教授。他曾是桑迪亞國家實驗室的首席研究員。他於2017年獲得NSF CAREER獎。他的研究領域包括安全和隱私的博弈論建模、對抗機器學習、算法與行為博弈論和激勵設計、優化、基於代理的建模、復雜繫統、網絡科學和流行病控制。
穆拉特·坎塔爾喬格盧（Murat Kantarcioglu）在普渡大學獲得計算機科學博士學位，目前是美國得克薩斯大學達拉斯分校的計算機科學教授和UTD數據安全與隱私實驗室主任。他已經發表......
譯者序Adversarial Machine Learning本書旨在討論機器學習中的安全性問題，即討論各種干擾機器學習繫統輸出正確結果的攻擊方法以及對應的防御方法。眾所周知，機器學習自出現之初就因其優異的性能，應用於各種分類和回歸任務。隨著深度學習的提出，這一領域更是得到前所未有的蓬勃發展。目前,深度學習在計算機視覺、語音識別、自然語言處理等復雜任務中取得了已知最好的結果，已經被廣泛應用於自動駕駛、人臉識別等領域。在一繫列重大進展面前,人們很容易忽視陽光背後的陰影——對抗攻擊。與很多實用性技術一樣，機器學習同樣面臨著安全性的考驗。從早期的垃圾郵件過濾程序開始，已經體現出對抗的思想，其本質是雙方的對抗博弈：一方面，垃圾郵件制造者想方設法躲避過濾程序的篩選；另一方面，過濾程序又盡可能正確地篩選出垃圾郵件。2014年，Christian Szegedy等人首次提出針對圖像的對抗樣本這一概念。他......
"
