第1章緒論

1.1研究背景與意義

1.2國內外研究現狀

1.2.1分布式離線優化算法

1.2.2分布式在線優化算法

參考文獻

第2章分布式隨機次梯度投影算法

2.1引言

2.2算法設計

2.3主要結果

2.4收斂性能分析

2.5本章小結

參考文獻

第3章異步的分布式次梯度隨機投影算法

3.1引言

3.2算法設計

3.3主要結果

3.4收斂性能分析

3.5誤差界分析

3.6本章小結

參考文獻

第4章量化信息與隨機網絡拓撲的擴散小均方算法

4.1引言

4.2擴散算法

4.3算法設計

4.3.1隨機網絡拓撲模型

4.3.2抖動量化模型

4.3.3隨機網絡與抖動量化的擴散策略

4.4均方收斂分析

4.5穩態性能分析

4.6仿真結果

4.7本章小結

參考文獻

第5章分布式隨機次梯度在線優化算法

5.1引言

5.2問題描述與算法設計

5.2.1問題描述

5.2.2算法設計

5.3主要結果

5.4算法性能分析

5.5仿真實驗

5.6本章小結

參考文獻

第6章差分隱私的分布式在線優化算法

6.1引言

6.2基本概念與定義

6.2.1圖論

6.2.2差分隱私

6.3問題描述及算法設計

6.3.1問題描述

6.3.2算法設計

6.4主要結果

6.5差分隱私與性能分析

6.5.1差分隱私分析

6.5.2性能分析

6.6本章小結

參考文獻

第7章分布式條件梯度在線學習算法

7.1引言

7.2準備工作

7.3問題形式化與算法

7.4假設和主要結果

7.5性能分析

7.6引理證明

7.7仿真實驗

7.8本章小結

參考文獻

第8章基於隨機塊坐標的分布式在線無投影算法

8.1引言

8.2問題描述與算法設計

8.2.1問題描述

8.2.2算法設計

8.3相關假設和主要結果

8.4收斂性分析

8.5仿真實驗

8.5.1實驗設置

8.5.2實驗結果與分析

8.6本章小結

參考文獻

第9章基於事件驅動的分布式在線無投影算法

9.1引言

9.2問題描述與算法設計

9.2.1問題描述

9.2.2算法設計

9.3相關假設與結果

9.4收斂性分析

9.5本章小結

參考文獻

網絡化多智能體繫統研究的目的是求解復雜、大規模、實時和具有不確定信息的問題，並且具有學習推理、自組織等能力，受到了國內外研究者的廣泛關注。網絡中的許多經典問題本質上都是分布式優化問題。例如，數據管理問題、分布式學習問題、資源分配問題、網絡繫統的多智能體協作問題、車載網絡傳輸控制問題等。為了提高這些繫統的工作效率，均離不開分布式優化算法。此外，在這些應用中，數據總量規模龐大，分散在不同的數據中心； 節點計算能力有限，分散在不同的物理位置。每個智能體隻擁有所要完成任務的局部信息，而不擁有所要完成任務的全局信息，同時每個智能體也不具有獨立解決復雜任務的能力。因此，在網絡化多智能體繫統中，不存在集中控制繫統，隻能執行分布式處理。
近年來，隨著高科技的發展，網絡化多智能體繫統理論與協同技術得到了快速發展。相比集中式優化算法，分布式優化算法的魯棒性更好，成為優化與控制領域的一個重要研究方向，同時也被國防、經濟、金融、工程、管理等許多應用領域所關注。因此，研究高效的分布式優化算法具有重要的理論意義和實際價值。從某種意義上說，網絡化多智能體繫統與分布式優化算法是事物的兩個不同的側面： 網絡化多智能體繫統是技術實現的主體，而分布式優化算法是技術實現的方法。解決網絡化多智能體繫統分布式優化問題的一般思路是： 首先將現實中的網絡或繫統建模為網絡化多智能體繫統，然後在網絡化多智能體繫統上設計分布式優化算法以求解所需要優化的問題。因此，本書著重研究網絡化多智能體繫統的分布式優化理論與方法，主要取得了以下成果： 
(1) 提出了分布式隨機次梯度投影算法。針對時變有向網絡化多智能體繫統中的分布式約束優化問題，假設全局代價函數為每個智能體的代價函數之和，將網絡化多智能體繫統建模為時變有向圖，采用權平衡技術解決權矩陣可能非雙隨機矩陣的問題，提出一種全分布式隨機次梯度投影算法。證明了每個智能體的迭代值漸近收斂到值，並分析了算法的收斂速率： 當每個智能體的代價函數是強凸函數時，其收斂速率為O(logT/T)； 當每個智能體的代價函數是凸函數時，其收斂速率為O(logT/T)，其中，T為迭代次數。
(2) 提出了異步的分布式次梯度隨機投影算法。針對異步通信時變網絡化多智能體繫統中的分布式約束優化問題，在某些情況下，每個智能體可能無法提前獲得自己的局部約束集，或者約束集素數量巨大。因此，采用異步隨機廣播通信協議，提出一種異步的分布式隨機次梯度算法。通過選擇適當的學習速率，證明了所提算法是以概率1收斂。當學習速率不變時，分析了算法的漸近誤差界以及漸近誤差上界。
(3) 提出了量化信息與隨機網絡拓撲的擴散小均方算法。針對無線傳感網絡中的分布式參數估計問題，在量化之前添加一抖動到估計值上以達到無偏估計，提出一種量化信息與隨機網絡拓撲的擴散小均方算法，分析了所提算法的穩定性與收斂性能，並得到了MSD（meansquare deviation）和EMSE（excess meansquare Errors）的閉合解析式，證明了量化信息以及隨機網絡拓撲不影響所提算法的收斂性，但是量化是影響所提算法性能退化的主要因素。

(4) 提出了分布式隨機次梯度在線優化算法。針對網絡化多智能體繫統的分布式在線優化問題，由於智能體隻能事後獲悉各自的動態局部代價函數，且不能獲悉其他智能體的動態局部代價函數，為此，利用權平衡方法解決有向網絡導致權矩陣的不對稱性，提出一種分布式隨機次梯度在線優化算法，通過選擇適當的學習速率，分析了所提算法的性能： 當局部代價函數是強凸函數時，所提算法能達到對數Regret界； 當局部代價函數是凸函數時，所提算法能達到平方根Regret界。
(5) 提出了差分隱私的分布式在線優化算法。針對帶隱私的網絡化多智能體繫統的分布式在線優化問題，利用差分隱私機制保持每個智能體的隱私，並采用權平衡技術解決權矩陣可能非雙隨機矩陣的問題，提出一種差分隱私的分布式隨機次梯度在線優化算法，證明了所提算法可實現差分隱私，分析了算法的性能： 當局部代價函數是強凸函數時，算法可達到對數Regret界O(logT)； 當局部代價函數是一般凸函數時，算法可達到平方根Regret界O(T)，並分析了隱私水平與算法性能之間的權衡關繫。
(6) 提出了分布式條件梯度在線學習算法。針對高維約束的時變網絡化多智能體繫統分布式優化問題，由於投影算子的效率很低，使用FrankWolfe 步驟替代投影算子，提出了一種基於條件梯度的分布式在線學習算法，證明了當局部代價函數為強凸函數時，算法達到的Regret界為O(T)； 當局部代價函數為潛在非凸函數時，算法以速率O(T)收斂於一些平穩點。
(7) 提出了基於隨機塊坐標的分布式在線無投影算法。針對網絡化多智能體繫統在線約束優化問題，在每輪迭代過程中隨機地選擇部分梯度或次梯度分量的子集進行更新，從而達到減少計算量的目的，為此，提出了一種基於隨機塊坐標的分布式在線無投影算法，分析了所提算法的性能： 當網絡中每個智能體的局部代價函數為凸函數時，算法達到的Regret界為O(T)。
(8) 提出了基於事件驅動的分布式在線無投影算法。針對網絡化多智能體分布式優化中通信開銷過大問題，借鋻事件驅動機制，當網絡中智能體的當前狀態與後一次驅動狀態之間的離差大於特定閾值時，纔觸發智能體間通信。提出一種基於事件驅動的分布式在線無投影算法，證明了算法的收斂性： 當局部目標函數是凸函數時，算法達到的Regret界為O(T)。
本書得到國家自然科學基金項目（61976243，61971458）的資助，由河南科技大學朱軍龍博士、張明川教授、吳慶濤教授和邢玲教授共同撰寫完成，其中朱軍龍撰寫15萬字，張明川撰寫5萬字，吳慶濤撰寫5萬字，邢玲撰寫3萬字。全書由張明川教授統稿，吳慶濤教授校稿。此外，在本書撰寫過程中得到了河南科技大學網絡技術與服務計算團隊的周揚帆、龍欣悅、朱亞傑、符甜格、顧孟傑、徐文萱等研究生的支持，在這裡一並表示感謝。

作者

2021年4月