深度学习在视觉和自然语言处理中的应用

课程编码：081104M07006H 英文名称：Deep Learning in Computer Vision and Natural Language Processing 课时：20 学分：1.00 课程属性：高级强化课 主讲教师：梁坚

深度学习是人工智能学科的重要组成部分，以深度神经网络为代表，具有很强的学习数据表示和执行学习任务的能力。本门课程主要面向人工智能领域即将进入实验室从事科学研究工作的低年级研究生，介绍深度学习及其应用，提高研究生的创新能力和创新素质，缩小研究生在基础理论和学科前沿领域间的知识差距，扩大研究生的知识视野。通过本门课程的教学，强化对深度学习前沿理论和方法的理解，提高深度学习研发的基本技能，以便能够尽早熟悉学科前沿。
上机硬件设备：2台GPU服务器，16卡
上机作业要求：计算机视觉和自然语言处理上机作业各一次

模式识别

第一章 深度学习基础和前沿 2学时 梁坚
第1节 深度学习基础和前沿
第二章 高级卷积神经网络在计算机视觉上的应用 4学时
第1节 物体分类、人脸识别
第2节 实例分割、目标检测
第三章 注意力机制及其自然语言处理中的应用 3学时 梁坚
第1节 注意力机制
第2节 Transformer
第四章 概率生成模型及图像生成 4学时 梁坚
第1节 变分贝叶斯模型
第2节 流模型
第五章 深度迁移学习及其在计算机视觉上的应用 3学时 梁坚
第1节 域自适应学习
第六章 自监督学习及其在网络预训练上的应用 4学时 梁坚
第1节 无监督学习
第2节 自监督学习

梁坚，博士，中国科学院自动化研究所副研究员。2013年于西安交通大学获工学学士；2019年于中科院自动化所获工学博士；2019-2021年于新加坡国立大学进行博士后研究工作。主要研究方向为计算机视觉、迁移学习、对抗学习、多模态检索等。在国际著名期刊IEEE TPAMI、TIP与国际顶级会议ICML、CVPR、SIGIR、AAAI、IJCAI、ECCV等发表学术论文20余篇, 曾获得中科院优秀博士学位论文奖、中科院院长奖、多媒体大会ISM-2016的最佳论文候选奖，并被评为IJCAI-ECAI-2018的杰出审稿人。