人工智能的数学基础
课程编码：180206081100P1008H
英文名称：Mathematics Foundation in Artificial Intelligence
课时：50
学分：2.50
课程属性：学科核心课
主讲教师：王丽瑾
教学目的要求
本课程为控制科学与工程、模式识别与智能系统、电子信息等学科研究生的学科核心课，也可作为计算机科学、软件工程、信息安全、管理科学、应用数学等专业研究生的选修课程。本课程主要讲述矩阵代数和最优化计算法，以及矩阵分析、机器学习中的优化模型、一阶求解算法和二阶求解算法及其收敛性理论等人工智能的数学基础。通过本课程的学习，希望学生对常用的矩阵代数和最优化计算法有初步的了解，掌握机器学习优化模型的建立方法以及求解这些优化模型的算法设计思路、算法收敛性结果的证明方法，加深学生对机器学习理论方法的理解，为从事人工智能相关研究和应用奠定相应的数学基础。
预修课程
高等数学，线性代数，概率论与数理统计
大纲内容
第一章 矩阵代数基础 10.0学时 王丽瑾
第1节 向量、矩阵、向量空间、线性映射
第2节 内积与范数、Hilbert空间
第3节 逆矩阵与伪逆矩阵
第4节 矩阵直和与Hadamard积、Kronecker积、Khatri-Rao积
第5节 向量化与矩阵化、数据表示（稀疏向量与表示、稀疏编码、压缩感知等）
第二章 矩阵分析 8.0学时 王丽瑾
第1节 特殊矩阵
第2节 奇异值分析
第3节 特征值分析
第4节 矩阵分解
第三章 最优化基础 6.0学时 王丽瑾
第1节 优化方法的数学基础
第2节 无约束优化问题的一、二阶必要条件和二阶充分条件
第3节 最优化方法的基本结构和算法收敛速度
第4节 精确和不精确一维搜索法及其收敛性
第四章 牛顿法、共轭梯度法 10.0学时 王丽瑾
第1节 最速下降法
第2节 牛顿法、牛顿法的变形
第3节 共轭梯度方向和共轭梯度算法
第4节 拟牛顿法
第5节 约束优化基础
第五章 机器学习中的优化模型和随机梯度下降法 7.0学时 王丽瑾
第1节 经验风险、结构风险及其一般优化模型
第2节 随机梯度下降法及其收敛性分析
第3节 随机梯度下降法在深度学习中的变形
第4节 方差缩减技术
第六章 机器学习中的加速一阶优化算法 7.0学时 王丽瑾
第1节 无约束凸优化中的加速算法（重球法、加速梯度法、Nesterov加速邻近梯度法）
第2节 带约束凸优化中的加速算法（加速罚函数法、加速Lagrange乘子法、ADMM、Frank-Wolfe算法）
第七章 课堂考试 2.0学时 王丽瑾
第1节 考试
参考书
1、
矩阵论,矩阵分析与应用,最优化理论与方法,机器学习中的加速一阶优化算法,最优化：建模、算法与理论
张凯院、徐仲等,张贤达,袁亚湘、孙文瑜,林宙辰、李欢、方聪,刘浩洋、户将、李勇锋、文再文
2017年8月,2013年11月,2007年7月,2021年10月,2020年12月
西北工业大学出版社,清华大学出版社,科学出版社,机械工业出版社,高等教育出版社
课程教师信息
王丽瑾，教授，博导。2007于中科院数学与系统科学研究院/德国Karlsruhe 理工大学（联合培养）获理学博士学位，2009年开始任教于中国科学院大学，主要研究方向为计算数学随机微分方程数值解，主持国家自然科学基金面上项目等，发表论文30余篇。