模式识别与机器学习
课程编码:480177085404P2003
英文名称:Pattern Recognition and Machine Learning
课时:60
学分:3.00
课程属性:专业核心课
主讲教师:王磊
教学目的要求
本课程为计算机应用技术专业硕士研究生的专业核心课,同时也可作为计算机其它专业及电子、自动化等学科研究生的专业普及课。模式识别是研究用机器代替人去识别、辨识客观事物的学科,而机器学习则研究如何构造算法从数据中学习或对数据做出预测。二者均具有系统的理论和方法,并有着千丝万缕的联系,也都在近年来得到了广泛的应用,成为人工智能领域最热门的学科方向之一。本课程将讲述模式识别与机器学习的基本概念、基本理论和方法、关键算法原理以及典型应用情况。预期通过理论讲授与应用案例分析,为本学科研究生今后从事相关方向的深入研究打下坚实的理论基础,为其他学科的研究生应用相关方法和技术提供理论和实践指导。要求学生不仅能够切实掌握本课程的基本理论和方法,并能在解决实际问题时灵活应用所学知识。
预修课程
高等数学,线性代数,概率论与数理统计
大纲内容
第一章 概述 王磊
第1节 课程简介 0.5学时
第2节 模式识别和机器学习的基本概念 0.5学时
第3节 模式识别和机器学习发展简史 0.5学时
第4节 模式识别和机器学习方法 0.5学时
第5节 模式识别和机器学习系统 0.5学时
第6节 模式识别和机器学习应用 0.5学时
第二章 机器学习开发环境 王磊
第1节 机器学习开发环境配置 0.5学时
第2节 Numpy简介 0.5学时
第3节 Pandas简介 1.0学时
第4节 数据探索性分析 1.0学时
第三章 生成式分类器 王磊
第1节 贝叶斯判别准则 0.5学时
第2节 最小风险判别 0.5学时
第3节 朴素贝叶斯分类器 0.5学时
第4节 概率分布参数估计(极大似然估计和贝叶斯估计) 0.5学时
第5节 正态分布模式的贝叶斯分类器 0.5学时
第6节 正态分布参数估计(均值和协方差矩阵) 0.5学时
第四章 判别式分类器 王磊
第1节 判别式分类器 vs. 生成式分类器 0.5学时
第2节 线性判别函数 1.0学时
第3节 广义线性判别函数 0.5学时
第4节 分段线性判别函数 0.5学时
第5节 Fisher线性判别 1.0学时
第6节 感知器算法 1.0学时
第7节 决策树 1.5学时
第五章 特征工程 王磊
第1节 特征变换 1.0学时
第2节 特征构建 0.5学时
第3节 特征选择 1.5学时
第六章 统计学习理论基础 王磊
第1节 统计学习框架 0.5学时
第2节 经验风险与期望风险 0.5学时
第3节 测试误差估计 0.5学时
第4节 正则化方法 0.5学时
第5节 偏差—方差分析 0.5学时
第6节 统计学习理论 0.5学时
第七章 线性模型 王磊
第1节 线性回归模型 1.0学时
第2节 回归模型性能评价指标 0.5学时
第3节 逻辑回归模型 0.5学时
第4节 分类模型性能评价指标 0.5学时
第5节 样本不均衡的分类任务 0.5学时
第八章 支持向量机 王磊
第1节 线性支持向量机 0.5学时
第2节 软间隔的支持向量机 0.5学时
第3节 核方法支持向量机 1.0学时
第4节 支持向量回归 1.0学时
第九章 聚类 王磊
第1节 无监督学习与有监督学习对比 0.5学时
第2节 距离计算 0.5学时
第3节 聚类算法的评价方法 0.5学时
第4节 经典聚类方法 1.5学时
第十章 降维 王磊
第1节 线性降维技术 1.0学时
第2节 全局结构保持降维方法 1.0学时
第3节 局部结构保持降维方法 1.0学时
第十一章 半监督学习 王磊
第1节 自我训练 0.5学时
第2节 多视角学习 0.5学时
第3节 生成模型 0.5学时
第4节 S3VMs 0.5学时
第5节 基于图的算法 0.5学时
第6节 半监督聚类 0.5学时
第十二章 集成学习 王磊
第1节 Bagging和随机森林 2.0学时
第2节 Boosting和GBDT 3.0学时
第3节 Stacking 1.0学时
第十三章 深度学习及应用 王磊
第1节 人工神经网络的生物原型 1.0学时
第2节 生物视觉系统简介 1.0学时
第3节 卷积神经网络CNN源起与概述 1.0学时
第4节 典型卷积神经网络结构 1.0学时
第5节 循环神经网络 1.0学时
第6节 反向传播算法介绍 1.0学时
第7节 深度模型训练技巧 2.0学时
第8节 深度模型应用 2.0学时
第9节 深度学习新进展 2.0学时
第十四章 课程复习 王磊
第1节 课程复习 3.0学时
第十五章 期末考试 王磊
第1节 期末考试 3.0学时
参考书
1、
模式识别(模式识别与机器学习(第4版))
张学工、汪小我
2021年9月
清华大学出版社
2、
机器学习从原理到应用
卿来云、黄庆明
2020年10月
人民邮电出版社
3、
机器学习
周志华
2016年1月
清华大学出版社
4、
统计学习方法(第2版)
李航
2019年5月
清华大学出版社
5、
神经网络与深度学习
邱锡鹏
2020年5月
机械工业出版社
课程教师信息
王磊,博士生导师,深圳市高层次专业人才,IEEE会员、深圳市人工智能学会会员。毕业于西安电子科技大学,曾任职于华为技术有限公司,主要从事模式识别、人工智能、计算机视觉等领域的研究,在国际学术期刊和学术会议发表论文60余篇,其中一作/通讯作者论文30余篇,包括著名期刊IEEE Transactions on Cybernetics, IEEE Transactions on Multimedia, IEEE Transactions on Circuits and Systems for Video Technology,此外以共同一作发表ACS Nano, Advanced Science。会议论文包括NAACL、CVPR、ICCV、AAAI等。申请发明专利30余件,已授权17件。承担项目17项,其中作为负责人承担项目10项