课程大纲

课程大纲

深度学习理论与应用

课程编码:085400M02016Y 英文名称:Deep Learning: Theory and Applications 课时:40 学分:2.00 课程属性:一级学科普及课 主讲教师:姜海勇

教学目的要求
近年来,人工智能取得了突破性的进展,其研究成果不仅广泛应用于人脸识别、智慧城市、无人驾驶等前沿领域,同时在医学影像分析、药物研制、物理模拟等多学科交叉领域也取得了令人惊叹的效果,而这些突破很大程度都是来自于深度学习的发展。
本课程将主要讲授和讨论深度学习的主要理论、基本方法与典型应用。希望学生通过本课程的学习能够对最新人工智能应用背后的原理有更深刻的了解和认识,同时具备动手复现相关论文与算法的能力,也期望学生将相关技术应用于自己所在研究领域,开拓更有意义、更有价值的研究与应用。
课程要求学生掌握深度学习的基本原理、典型网络架构、模型训练与设计技巧,并能使用相关理论解决现实世界中的应用问题。

预修课程
线性代数、概率论

大纲内容
第一章 引言 3学时
第1节 深度学习的广泛应用
第2节 深度学习的发展历程
第3节 目前的研究与发展
第二章 基础知识回顾 3学时
第1节 数学基础
第2节 机器学习
第3节 Python语言
第三章 深度前馈网络 4学时
第1节 两个经典例子
第2节 神经元启发
第3节 多层感知器
第4节 基于PyTorch的感知器实现
第四章 深度网络的训练与优化 6学时
第1节 网络训练的经典问题
第2节 参数初始化与优化算法
第3节 正则化选项
第4节 基于PyTorch的网络搭建
第五章 卷积网络 5学时
第1节 卷积与池化
第2节 基本变体
第3节 典型的图像网络
第4节 经典的视觉任务
第六章 序列建模 3学时
第1节 循环神经网络
第2节 双向RNN
第3节 LSTM
第4节 典型的文本处理任务
第七章 图网络 4学时
第1节 图结构及其广泛应用
第2节 图卷积与谱卷积
第3节 图卷积的典型应用
第八章 X is all you need 4学时
第1节 关于模型结构的思考
第2节 注意力机制
第3节 变形网络
第4节 变形网络的最新进展
第九章 深度生成模型 4学时
第1节 无监督学习
第2节 对抗思想及深度对抗网络
第3节 不同的GAN变种
第4节 鲁棒的网络训练
第十章 最新前沿与课程考核 4学时
第1节 自监督训练与对抗学习
第2节 课程考核

参考书

课程教师信息
姜海勇,人工智能学院副教授,博士毕业于中国科学院自动化研究所。目前主要从事三维场景理解与三维建模等相关工作,目前已经在相关领域顶级会议与期刊发表论文多篇。