智能计算系统
课程编码:180086081201P3001Y
英文名称:Intelligent Computing System
课时:40
学分:2.00
课程属性:专业课
主讲教师:支天等
教学目的要求
本课程为专业课程,旨在培养学生对智能计算系统完整软硬件技术栈(包括基础智能算法、智能计算编程框架、智能计算编程语言、智能芯片体系结构等)融会贯通的理解。在掌握基础理论的同时,该课程的学习有助于培养学生形成系统能力以及系统思维。其中,系统能力可以帮助学术在就业市场中拥有更强的竞争力;系统思维,则对于学生科研能力有帮助。
预修课程
线性代数,概率论与数理统计,计算机组成原理、数字集成电路等
大纲内容
第一章 概述
第1节 人工智能 1学时 黄迪
第2节 智能计算系统 1学时 黄迪
第3节 驱动范例 1学时 黄迪
第二章 深度学习基础
第1节 机器学习 0.5学时 黄迪
第2节 神经网络 0.5学时 黄迪
第3节 神经网络训练方法 0.5学时 黄迪
第4节 神经网络设计基础 0.5学时 黄迪
第5节 过拟合与正则化 0.5学时 黄迪
第6节 交叉验证 0.3学时 黄迪
第7节 本章小结 0.3学时 黄迪
第三章 深度学习应用
第1节 适合图像处理的卷积神经网络 1学时 黄迪
第2节 适合文本/语音处理的循环神经网络 2学时 黄迪
第3节 大模型 3学时 黄迪
第4节 神经网络的优化 1学时 黄迪
第5节 神经网络量化 1学时 黄迪
第6节 驱动范例 0.5学时 黄迪
第7节 本章小结 0.5学时 黄迪
第四章 编程框架使用
第1节 编程框架概述 1学时 黄迪
第2节 PyTorch概述 1学时 黄迪
第3节 PyTorch编程模型及基本用法 1学时 黄迪
第4节 基于PyTorch的模型推理实现 1学时 黄迪
第5节 基于PyTorch的模型训练实现 1学时 黄迪
第6节 驱动范例 0.5学时 黄迪
第7节 本章小结 0.5学时 黄迪
第五章 编程框架原理
第1节 编程框架设计 0.5学时 支天
第2节 计算图构建 0.5学时 支天
第3节 计算图执行 0.5学时 支天
第4节 深度学习编译 0.5学时 支天
第5节 分布式训练 0.5学时 支天
第6节 本章小结 0.5学时 支天
第六章 面向深度学习的处理器原理
第1节 通用处理器 0.5学时 支天
第2节 向量处理器 0.5学时 支天
第3节 深度学习处理器 1学时 支天
第4节 大规模深度学习处理器 0.5学时 支天
第5节 本章小结 0.5学时 支天
第七章 深度学习处理器架构
第1节 计算 0.5学时 支天
第2节 存储 0.5学时 支天
第3节 通信 0.5学时 支天
第4节 优化设计 1学时 支天
第5节 本章小结 0.5学时 支天
第八章 智能编程语言
第1节 为什么需要智能编程语言 0.3学时 支天
第2节 智能计算系统抽象架构 0.5学时 支天
第3节 智能编程模型 0.5学时 支天
第4节 智能编程语言基础 0.5学时 支天
第5节 智能应用编程接口 0.5学时 支天
第6节 智能应用功能调试 0.5学时 支天
第7节 智能应用性能调优 0.5学时 支天
第8节 基于智能编程语言的系统开发 0.5学时 支天
第9节 本章小结 0.3学时 支天
第九章 大模型计算系统
第1节 大模型背景介绍 0.3学时 支天
第2节 大模型驱动范例—BLOOM 0.5学时 支天
第3节 大模型系统软件 0.5学时 支天
第4节 大模型系统硬件 0.5学时 支天
第5节 本章小结 0.3学时 支天
第十章 期末复习
第1节 期末复习 1学时 支天
第十一章 期末考试
第1节 期末考试 3学时 支天
教材信息
1、
《智能计算系统》
陈云霁、李玲、李威、郭崎、杜子东
2020年2月
机械工业出版社
参考书
1、
《智能计算系统实践教程》
李玲、郭崎、陈云霁
2021年8月
机械工业出版社
课程教师信息
支天,中国科学院计算技术研究所高级工程师。长期从事国产集成电路芯片设计和系统集成研究,负责或参与了十余款国产可重构芯片/人工智能芯片的研制,主持或参与了20余项国产芯片相关的重大项目任务。在IEEE TC、Proceeding of IEEE等期刊、会议上发表论文40余篇、申请国内外专利70余项。入选中国科学院计算技术研究所“新百星”计划。
黄迪,中国科学院计算技术研究所副研究员。长期从事人工智能及芯片架构交叉研究,承担国家自然科学基金青年基金项目,作为技术骨干参与了多款深度学习处理器的研发,设计发布了硬件代码生成大模型CodeV系列,在包括MICRO、TCAD、NeurIPS、ICLR、AAAI等在内的顶级会议及ACM/IEEE期刊上发表学术论文20余篇,曾获中国科学院院长优秀奖。