●譯者序
前言
致謝
引言
第一部分黑箱優化
第1章非線性優化
1.1非線性優化引論
1.1.1問題的一般描述
1.1.2數值方法的性能
1.1.3全局優化的復雜度界
1.1.4優化領域的“身份證”
1.2無約束極小化的局部算法
1.2.1松弛和近似
1.2.2可微函數類
1.2.3梯度法
1.2.4牛頓法
1.3非線性優化中的一階方法
1.3.1梯度法和牛頓法有何不同
1.3.2共軛梯度法
1.3.3約束極小化問題
第2章光滑凸優化
2.1光滑函數的極小化
2.1.1光滑凸函數
2.1.2函數類F ,1L(n)的復雜度下界
2.1.3強凸函數類
2.1.4函數類S ,1μ,L(n)的復雜度下界
2.1.5梯度法
2.2很優算法
2.2.1估計序列
2.2.2降低梯度的範數
2.2.3凸集
2.2.4梯度映射
2.2.5簡單集上的極小化問題
2.3具有光滑分量的極小化問題
2.3.1極小極大問題
2.3.2梯度映射
2.3.3極小極大問題的極小化方法
2.3.4帶有函數約束的優化問題
2.3.5約束極小化問題的算法
第3章非光滑凸優化
3.1一般凸函數
3.1.1動機和定義
3.1.2凸函數運算
3.1.3連續性和可微性
3.1.4分離定理
3.1.5次梯度
3.1.6次梯度計算
3.1.7很優性條件
3.1.8極小極大定理
3.1.9原始對偶算法的基本要素
3.2非光滑極小化方法
3.2.1一般復雜度下界
3.2.2估計近似解性能
3.2.3次梯度算法
3.2.4函數約束的極小化問題
3.2.5很優拉格朗日乘子的近似
3.2.6強凸函數
3.2.7有限維問題的復雜度界
3.2.8割平面算法
3.3完整數據的算法
3.3.1目標函數的非光滑模型
3.3.2Kelley算法
3.3.3水平集法
3.3.4約束極小化問題
第4章二階算法
4.1牛頓法的三次正則化
4.1.1二次逼近的三次正則化
4.1.2一般收斂性結果
4.1.3具體問題類的全局效率界
4.1.4實現問題
4.1.5全局復雜度界
4.2加速的三次牛頓法
4.2.1實向量空間
4.2.2一致凸函數
4.2.3牛頓迭代的三次正則化
4.2.4一個加速算法
4.2.5二階算法的全局非退化性
4.2.6極小化強凸函數
4.2.7偽加速
4.2.8降低梯度的範數
4.2.9非退化問題的復雜度
4.3很優二階算法
4.3.1復雜度下界
4.3.2一個概念性很優算法
4.3.3搜索過程的復雜度
4.4修正的高斯牛頓法
4.4.1高斯牛頓迭代的二次正則化
4.4.2修正的高斯牛頓過程
4.4.3全局收斂速率
4.4.4討論
第二部分結構優化
第5章多項式時間內點法
5.1自和諧函數
5.1.1凸優化中的黑箱概念
5.1.2牛頓法實際上做什麼
5.1.3自和諧函數的定義
5.1.4主要不等式
5.1.5自和諧性和Fenchel對偶
5.2自和諧函數極小化
5.2.1牛頓法的局部收斂性
5.2.2路徑跟蹤算法
5.2.3強凸函數極小化
5.3自和諧障礙函數
5.3.1研究動機
5.3.2自和諧障礙函數的定義
5.3.3主要不等式
5.3.4路徑跟蹤算法
5.3.5確定解析中心
5.3.6函數約束問題
5.4顯式結構問題的應用
5.4.1自和諧障礙函數參數的下界
5.4.2上界：通用障礙函數和極集
5.4.3線性和二次優化
5.4.4半定優化
5.4.5特別橢球
5.4.6構造凸集的自和諧障礙函數
5.4.7自和諧障礙函數的例子
5.4.8可分優化
5.4.9極小化算法的選擇
第6章目標函數的原始對偶模型
6.1目標函數顯式模型的光滑化
6.1.1不可微函數的光滑近似
6.1.2目標函數的極小極大模型
6.1.3合成極小化問題的快速梯度法
6.1.4應用實例
6.1.5算法實現的討論
6.2非光滑凸優化的過間隙技術
6.2.1原始對偶問題的結構
6.2.2過間隙條件
6.2.3收斂性分析
6.2.4極小化強凸函數
6.3半定優化中的光滑化技術
6.3.1光滑化特征值的對稱函數
6.3.2極小化對稱矩陣的優選特征值
6.4目標函數的局部模型極小化
6.4.1Oracle線性優化
6.4.2合成目標函數的條件梯度算法
6.4.3收縮型條件梯度
6.4.4原始對偶解的計算
6.4.5合成項的強凸性
6.4.6極小化二次模型
第7章相對尺度優化
7.1目標函數的齊次模型
7.1.1圓錐無約束極小化問題
7.1.2次梯度近似算法
7.1.3問題結構的直接使用
7.1.4應用實例
7.2凸集的近似
7.2.1計算近似橢球
7.2.2極小化線性函數的優選絕對值
7.2.3具素的雙線性矩陣博弈
7.2.4極小化對稱矩陣的譜半徑
7.3障礙函數次梯度算法
7.3.1自和諧障礙函數的光滑化
7.3.2障礙函數次梯度法
7.3.3正凹函數極大化
7.3.4應用
7.3.5隨機規劃的替代——在線優化
7.4混合精度優化
7.4.1嚴格正函數
7.4.2擬牛頓法
7.4.3近似解的解釋
附錄A求解一些輔助優化問題
參考文獻評注
參考文獻
索引

凸優化在應用數學、經濟金融、工程、計算機科學，特別是數據科學和機器學習方面越來越重要，本書對凸優化進行了全面且現代的介紹。 本書由該領域的權威專家撰寫，內容包括凸優化的算法理論的新進展，不但包含一階、二階極小化加速技術的一個統一且嚴格的表述，而且為讀者提供了光滑化方法的完整處理，這極大地擴展了梯度類型方法的應用範圍。此外，本書還詳細討論了結構優化的幾種有效方法，包括相對尺度優化法和多項式時間內點法。本書對理論優化的研究人員以及從事優化問題工作的專業人士非常有用，它提供了許多成功的例子來說明如何開發非常快速的專門極小化算法。基於作者的講座實踐，本書自然也可以作為工程、經濟、計算機科學和數學學科學生的介紹性及高級凸優化課程教材。

(俄羅斯)尤裡·涅斯捷羅夫 著 周水生 譯