●第1章緒論1
1．1人工智能的發展1
1．1．1人工智能的定義1
1．1．2人工智能的發展歷史及現狀2
1．1．3機器學習與數據3
1．2隱私保護浮出水面4
1．2．1隱私保護問題5
1．2．2隱私保護的攻擊5
1．2．3常見的隱私保護技術7
1．3聯邦學習的誕生8
1．3．1聯邦學習的提出8
1．3．2聯邦學習的範式9
1．3．3聯邦學習的應用12
1．4本章小結13
第2章聯邦學習基礎15
2．1聯邦學習的基本概念15
2．2聯邦學習的發展歷程17
2．3聯邦學習的基本類別與流程18
2．3．1橫向聯邦學習18
2．3．2縱向聯邦學習19
2．3．3聯邦遷移學習19
2．3．4聯邦強化學習20
2．4聯邦學習的應用場景21
2．5本章小結21
第3章中央服務器優化算法23
3．1聯邦隨機梯度下降算法23
3．1．1算法框架及參數23
3．1．2目標函數24
3．1．3算法流程25
3．2聯邦平均算法25
3．2．1算法框架及參數26
3．2．2目標函數27
3．2．3算法流程27
3．3差分隱私聯邦隨機梯度下降算法28
3．3．1算法框架及參數28
3．3．2相關函數說明29
3．3．3算法流程30
3．4差分隱私聯邦平均算法31
3．4．1算法框架及參數31
3．4．2算法流程32
3．5基於損失的自適應提升聯邦學習算法33
3．5．1算法框架及參數34
3．5．2算法流程35
3．6自平衡聯邦學習算法36
3．6．1算法框架及參數36
3．6．2算法流程37
3．7聯邦近端算法39
3．7．1算法框架及參數40
3．7．2模塊介紹41
3．7．3算法流程42
3．8不可知聯邦學習算法43
3．9基於概率的聯邦網絡匹配算法Ⅰ：單隱層神經網絡匹配算法50
3．9．1算法框架及參數50
3．9．2模塊介紹53
3．9．3算法流程56
3．10基於概率的聯邦網絡匹配算法Ⅱ：多隱層神經網絡匹配算法57
3．10．1算法框架及參數57
3．10．2模塊介紹59
3．10．3算法流程63
3．11聯邦匹配平均算法64
3．11．1算法框架及參數64
3．11．2目標函數65
3．11．3算法流程66
3．12本章小結67
第4章聯邦回歸算法69
4．1聯邦機器學習算法的定義69
4．1．1水平型分布數據70
4．1．2垂直型分布數據70
4．2線性回歸70
4．2．1橫向線性回歸71
4．2．2縱向線性回歸74
4．3邏輯回歸80
4．3．1橫向邏輯回歸81
4．3．2縱向邏輯回歸88
4．4本章小結96
第5章聯邦分類算法97
5．1樸素貝葉斯分類法97
5．1．1貝葉斯定理97
5．1．2樸素貝葉斯分類的思想和工作過程97
5．1．3橫向樸素貝葉斯分類98
5．1．4縱向樸素貝葉斯分類102
5．2支持向量機107
5．2．1橫向支持向量機109
5．2．2縱向支持向量機116
5．3本章小結124
第6章聯邦樹模型125
6．1決策樹125
6．1．1橫向決策樹126
6．1．2縱向決策樹131
6．2XGBoost138
6．2．1參數及含義139
6．2．2加法同態140
6．2．3SecureBoost算法的流程140
6．3本章小結143
第7章聯邦推薦算法145
7．1K均值算法145
7．1．1橫向K均值聚類算法146
7．1．2縱向K均值聚類算法149
7．1．3任意數據K均值聚類算法158
7．1．4安全兩方K均值聚類算法162
7．2因子分解機166
7．3基於近鄰的協同過濾算法171
7．3．1基於近鄰的傳統協同過濾算法171
7．3．2基於用戶的聯邦協同過濾算法173
7．4基於矩陣的協同過濾算法178
7．4．1基於矩陣的傳統協同過濾算法178
7．4．2基於矩陣的聯邦協同過濾算法178
7．5矩陣分解算法186
7．5．1基於SGD的聯邦矩陣分解算法186
7．5．2基於多視圖的聯邦矩陣分解算法190
7．5．3興趣點推薦算法195
7．5．4基於差分隱私的聯邦矩陣分解算法197
7．5．5基於混淆電路的聯邦矩陣分解算法200
7．5．6基於相似度的聯邦矩陣分解算法205
7．5．7基於因子分析的聯邦矩陣分解算法209
7．5．8基於深度學習的聯邦矩陣分解算法211
7．6本章小結213
第8章聯邦學習繫統的隱私與安全215
8．1問題描述與安全模型215
8．2聯邦學習隱私保護技術216
8．2．1秘密共享216
8．2．2不經意傳輸218
8．2．3混淆電路220
8．2．4同態加密222
8．2．5差分隱私224
8．3聯邦學習安全防護技術226
8．3．1密碼算法226
8．3．2身份認證229
8．3．3通信安全231
8．3．4存儲安全233
8．3．5可信計算235
8．4本章小結237
第9章聯邦學習的服務質量239
9．1聯邦學習服務質量的定義239
9．1．1聯邦學習服務質量的由來239
9．1．2什麼是聯邦學習服務質量評估241
9．2聯邦學習服務質量的評估維度242
9．2．1模型性能242
9．2．2數據傳輸效率243
9．2．3網絡性能243
9．2．4計算資源
9．2．5聯邦建模的魯棒性
9．3聯邦學習服務質量的理論體繫
9．3．1模型性能的評價指標
9．3．2聯邦學習的通信指標
9．3．3資源調度代價
9．3．4聯邦建模的魯棒性
9．3．5隱私保護技術的選取
9．3．6權值更新方法
9．4提升聯邦學習服務質量的方法
9．4．1聯邦學習的算法優化
9．4．2聯邦學習的通信優化
9．4．3聯邦學習的末位淘汰
9．4．4增強聯邦學習繫統的魯棒性
9．5本章小結
第10章聯邦學習的研究趨勢
10．1聯邦學習的優化研究
10．2聯邦學習的安全和隱私研究
10．3聯邦學習的應用領域研究
10．4本章小結
附錄
附錄ACholesky分解
附錄BLDLT分解
附錄C共軛梯度法
參考文獻
數據孤島問題已經成為制約人工智能發展的主要阻礙。在此背景下,聯邦學習（Federated Learning）作為一種新興的機器學習技術範式,憑借其突出的隱私保護能力,展示出在諸多業務場景中的應用價值。本書從聯邦學習的基礎知識出發,深入淺出地介紹了中央服務器優化和聯邦機器學習的算法體繫,詳細闡述了聯邦學習中涉及的加密通信模塊的相關知識,以定性和定量的雙視角建立了聯邦學習服務質量的評估維度、理論體繫,還延伸介紹了提升聯邦學習服務質量的方法,並對聯邦學習的研究趨勢進行了深入探討與分析,可以對設計和選擇算法提供工具式的參考和幫助。本書是高校、科研院所和業界相關學者研究聯邦學習技術的理想讀本,也適合大數據、人工智能行業的從業者和感興趣的讀者參考。
