本書凝聚Sébastien Bubeck教授多年心血，專門為計算機科學家打造，內容涉及從黑箱優化的基本理論到結構優化和隨機優化的*新發展，把機器學習中涉及的凸優化設計思想通過簡練的數學語言進行了闡述，可作為計算機科學、軟件工程、統計學、應用數學、數據科學與大數據、人工智能等專業本科生和研究生的基礎教材，也可供數據科學家、工程師和科研人員參考。

●譯者序
致謝
第1章 緒論
1.1 機器學習中的若干凸優化問題
1.2 凸性的基本性質
1.3 凸性的作用
1.4 黑箱模型
1.5 結構性優化
1.6 結果的概述和免責聲明
第2章 有限維的凸優化
2.1 重心法
2.2 橢球法
2.3 Vaidya割平面法
2.3.1 體積障礙
2.3.2 Vaidya算法
2.3.3 Vaidya方法分析
2.3.4 條件和體積障礙
2.4 共軛梯度
第3章 維度無關的凸優化
3.1 Lipschitz函數的投影次梯度下降
3.2 光滑函數的梯度下降
3.3 條件梯度下降
3.4 強凸性
3.4.1 強凸函數和upschitz函數
3.4.2 強凸光滑函數
3.5 下限
3.6 幾何下降
3.6.1 熱身賽：梯度下降的幾何學替代方案
3.6.2 加速度
3.6.3 幾何下降法
3.7 Nesterov加速梯度下降
3.7.1 光滑強凸情況
3.7.2 光滑的情況
第4章 非歐氏空間幾乎維度無關的凸優化
4.1 鏡像映射
4.2 鏡像下降
4.3 鏡像下降的標準設置
4.4 惰性鏡像下降
4.5 鏡像代理
4.6 關於MD、DA和MP的向量場觀點
第5章 超越黑箱模型
5.1 光滑項與簡單非光滑項之和
5.2 非光滑函數的光滑鞍點表示
5.2.1 鞍點計算
5.2.2 鞍點鏡像下降
5.2.3 鞍點鏡像代理
5.2.4 應用
5.3 內點法
5.3.1 障礙法
5.3.2 牛頓法的傳統分析
5.3.3 自和諧函數
5.3.4 v-自和諧障礙
5.3.5 路徑跟蹤方案
5.3.6 線性規劃和半定規劃的內點法
第6章 凸優化與隨機性
6.1 非光滑隨機優化
6.2 光滑隨機優化與小批量SGD
6.3 光滑函數與強凸函數的和
6.4 隨機坐標下降
6.4.1 坐標平滑優化的RCD算法
6.4.2 用於光滑和強凸優化的RCD
6.5 鞍點的隨機加速
6.6 凸松弛與隨機取整
6.7 基於隨機遊動的方法
參考文獻

本書介紹了凸優化中的主要復雜性定理及其相應的算法，內容從黑箱優化的基本理論到結構優化和隨機優化的新進展。書中對黑箱優化的介紹深受Nesterov的開創性著作和Nemirovski講稿的影響，包括對割平面法的分析，以及（加速）梯度下降方法。本書特別關注非歐幾裡得的情形（相關算法包括Frank-Wolfe、鏡像下降和對偶平均法），並討論它們在機器學習中的相關性。還詳細介紹FISTA（優化一個光滑項和一個簡單非光滑項的和）、鞍點鏡像代理（Nemirovski平滑替代Nesterov平滑），並簡明地描述內點法。而且在隨機優化中，討論了隨機梯度下降、小批量、隨機坐標下降和次線性算法。最後簡單地討論了組合問題的凸松弛和隨機取整（四舍五入）解的使用，以及基於隨機遊動的方法。