最优化计算方法

课程编码：180080070100M1001H 英文名称：Computational Methods in Optimization 课时：60 学分：3.00 课程属性：学科核心课 主讲教师：刘歆

本课程主要讲授优化问题的最优性条件、无约束优化、约束优化问题的常用算法，以及算法的收敛性分析。本课程是计算数学、运筹学、最优控制等相关学科方向的核心基础课。

数学分析、高等代数

第一章 导论 7学时 刘歆
第1节 数学基础
第2节 最优化问题
第3节 最优性条件
第4节 迭代法概述
第5节 收敛性与收敛速度
第6节 一维优化方法
第7节 线搜索
第二章 梯度法和共轭梯度法 4学时 刘歆
第1节 梯度法
第2节 梯度法的性质
第3节 共轭梯度法
第4节 共轭梯度法的性质
第三章 牛顿法与拟牛顿法 7学时 刘歆
第1节 牛顿法
第2节 修正的牛顿法
第3节 拟牛顿法
第4节 有限内存拟牛顿法
第5节 BB步长梯度法
第四章 信赖域方法 4学时 刘歆
第1节 信赖域方法概述
第2节 信赖域方法的收敛性
第3节 信赖域方法的子问题
第五章 非线性最小乘 5学时 刘歆
第1节 非线性最小二乘问题
第2节 Gauss-Newton方法
第3节 Levenberg-Marquardt方法
第4节 结构型拟牛顿方法
第六章 二次规划方法 6学时 刘歆
第1节 基本性质
第2节 等式约束问题
第3节 积极集法
第4节 对偶方法
第5节 内点算法
第七章 罚函数方法 4学时 刘歆
第1节 早期罚函数方法
第2节 乘子罚函数方法
第3节 非光滑精确罚函数方法
第八章 线性约束规划 3学时 刘歆
第1节 等式约束问题
第2节 积极集法
第3节 投影梯度法
第九章 非线性约束优化 5学时 刘歆
第1节 可行方向法
第2节 Lagrange-Newton法
第3节 逐步二次规划法
第4节 既约Hessian阵方法
第十章 非光滑优化 4学时 刘歆
第1节 次梯度方法
第2节 梯度采样方法
第3节 复合非光滑优化的基本性质
第4节 信赖域法
第十一章 稀疏与低秩优化 6学时 刘歆
第1节 稀疏优化
第2节 邻近点梯度方法
第3节 交替方向乘子法
第4节 分布式优化算法
第5节 低秩优化
第6节 条件梯度方法
第十二章 无导数优化方法 5学时 刘歆
第1节 交替方向与共轭方向法
第2节 单纯形方法
第3节 差分拟牛顿方法
第4节 二次逼近方法

略