深度学习

课程编码：081203M05009H-1 英文名称：Deep Learning 课时：40 学分：2.00 课程属性：专业普及课 主讲教师：徐俊刚等

本课程为计算机应用技术、计算机软件与理论、软件工程等专业研究生的专业普及课。本课程讲授和讨论深度学习的主要理论和关键技术，主要内容有深度学习基础、卷积神经网络、循环神经网络、深度生成模型、深度学习正则化等以及上述深度学习理论在图像、语音、自然语言处理等领域的主要应用，同时也介绍了一些新兴的深度学习模型及其应用。课程注重深度学习实践能力的锻炼和培养，通过引入多个深度学习课程实验，提升同学们的动手能力。通过本课程的学习，希望相关专业研究生能够掌握深度学习的基本理论和关键技术，提高基于深度学习技术进行科学研究与应用开发的能力。

计算机算法设计与分析，模式识别与机器学习

第一章 引言
第1节 深度学习的起源、发展和现状 0.5学时
第2节 深度学习与机器学习、人工智能的关系 0.5学时
第3节 深度学习的定义、主要理论和方法概述 0.5学时
第4节 深度学习的主要应用概述 0.5学时
第二章 深度学习基础
第1节 数学基础 2学时
第2节 机器学习基础 2学时
第3节 神经网络基础 1学时
第三章 卷积神经网络
第1节 卷积神经网络的基本原理 1学时
第2节 卷积神经网络基本结构 1学时
第3节 卷积神经网络的变种 1学时
第4节 卷积神经网络的典型应用 1学时
第四章 循环神经网络
第1节 循环神经网络基本结构 0.6学时
第2节 长短时记忆网络 1学时
第3节 循环神经网络的典型应用 0.4学时
第五章 深度生成模型
第1节 深度生成模型概述 1学时
第2节 玻尔兹曼机及其发展 1学时
第3节 自编码器及其变种 1学时
第六章 其他典型深度学习方法
第1节 生成对抗网络 2学时
第2节 胶囊网络 1学时
第3节 注意力网络 1学时
第4节 记忆网络 0.6学时
第5节 强化学习 0.4学时
第6节 深度森林 1学时
第七章 深度学习中的正则化
第1节 正则化方法概述 0.2学时
第2节 参数范数正则化 0.8学时
第3节 数据增强/Batch Normalization 0.5学时
第4节 Dropout/Dropconnect 1学时
第5节 提前终止/稀疏表示 0.5学时
第八章 深度学习工具
第1节 深度学习平台概览 0.2学时
第2节 Tensorflow 0.8学时
第3节 Pytorch 1学时
第4节 PaddlePaddle 0.7学时
第5节 Keras 0.3学时
第九章 深度学习在计算机视觉中的典型应用
第1节 传统的计算机视觉处理 1学时
第2节 图像分类/目标检测 1学时
第3节 图像分割/图像回归 1学时
第4节 人脸识别/行人重识别 1学时
第5节 目标跟踪/行为识别 1.5学时
第6节 缺陷检测 0.5学时
第十章 深度学习在语音识别中的典型应用
第1节 语音识别 1学时
第2节 声纹识别 0.8学时
第3节 语音合成 0.2学时
第十一章 深度学习在自然语言处理中的典型应用
第1节 语言模型 1学时
第2节 机器翻译 1学时
第3节 机器阅读理解 1学时
第4节 自动摘要 0.5学时
第5节 图像描述 0.5学时

首席教授：徐俊刚，男，中国科学院大学教授/博士生导师，云计算与智能信息处理实验室主任，国家科技专家库专家，北京市科学技术委员会专家。中国计算机学会数据库专委会委员，中国计算机学会人工智能与模式识别专委会委员，中国计算机学会中文信息技术专委会委员，中国人工智能学会智能服务专委会委员。主持国家科技支撑计划课题、国家重点研发计划子课题、国家自然科学基金面上项目等国家级科研项目，主持北京市科技计划课题、北京市自然科学基金等省部级科研项目，发表论文50余篇，出版著作3部，申请专利5项，2016年度中国科学院朱李月华优秀教师奖获得者。
主讲教师：张新峰 ，男，中国科学院大学副教授/博士生导师，入选中国科学院率先行动“百人计划”青年项目，中国计算机学会多媒体专委会执行委员，中国图象图形学学会多媒体专委会委员，主持和参与了国家自然科学基金面上项目、联合基金重点支持项目和科技部重点研发项目课题等国家级科研项目，长期从事视频、图像压缩、处理和质量评价的相关研究工作，发表100余篇高水平学术论文，获得本领域国际和国内学术期刊/会议最佳论文奖5次。