数据科学里的优化方法
课程编码：180080070105M0008H
英文名称：Optimization for Data Science
课时：20
学分：1.00
课程属性：高级强化课
主讲教师：于耀亮
教学目的要求
优化算法已成为许多科学和工程领域的重要工具，尤其是在需要快速处理大量数据的数据科学领域。这导致了从传统的优化算法（例如内点法）到经典的梯度法的范式转变，并且近年来涌现出/重新发现了许多新的扩展和分析方法。本课程的主要目标是结合机器学习近年来的应用介绍这些易于实现和理解的新/旧算法，理解相应的理论分析，并了解哪种算法适合解决哪种类型的数据科学问题。
预修课程
线性代数，微积分
大纲内容
第一章 基本梯度法 8.0学时 于耀亮
第1节 简介和回顾
第2节 梯度下降法
第3节 近端梯度法
第4节 条件梯度法
第5节 次梯度法
第6节 镜像下降法
第7节 测量梯度法
第8节 加速梯度法
第二章 适用于博弈的方法 4.0学时 于耀亮
第1节 梯度下降上升法
第2节 交替极小法
第3节 额外梯度法
第4节 算子分裂
第三章 基于随机的方法 4.0学时 于耀亮
第1节 随机梯度法
第2节 方差缩减
第3节 随机平滑
第4节 扩散抽样
第四章 其它方法 4.0学时 于耀亮
第1节 牛顿法
第2节 黎曼梯度法
第3节 自适应法
第4节 性能估计
参考书
1、
Optimization for Data Analysis
Stephen Wright and Benjamin Recht
2022
Cambridge University Press
2、
Large-scale Convex Optimization
Ernest Ryu and Wotao Yin
2023
Cambridge University Press
课程教师信息
略