分布式与并行计算技术
课程编码：180086085405M3008H
英文名称：Distributed and Parallel Computing
课时：40
学分：2.00
课程属性：专业课
主讲教师：金蓓弘等
教学目的要求
通过本课程的学习，使学生掌握分布式计算、并行计算的基本概念和关键技术，增强实际系统设计的能力，能充分了解当今分布式计算和并行计算的最新发展，培养学生在分布式计算和并行计算领域的实践和研究能力。
预修课程
程序设计语言，操作系统，计算机网络，数据结构
大纲内容
第一章 并行计算
第1节 大规模的科学计算对高性能计算的需求 1学时 刘莹
第2节 并行计算平台 1学时 刘莹
第二章 并行计算编程模型
第1节 并行计算模型，数据并行和任务并行机制 1学时 刘莹
第2节 OpenMP编程 1学时 刘莹
第3节 MPI编程 1学时 刘莹
第三章 基于GPU的并行计算概述
第1节 图形处理器GPU体系结构介绍 0.5学时 刘莹
第2节 基于GPU的多线程计算与基于CPU的多进程计算的区别 0.5学时 刘莹
第3节 CUDA编程模型简介 0.5学时 刘莹
第4节 CUDA在各领域成功案例简介 0.5学时 刘莹
第四章 CUDA编程模型
第1节 CUDA 基本概念 1学时 刘莹
第2节 运行模型：核，线程，块，网格 0.5学时 刘莹
第3节 实例：矩阵乘法 1学时 刘莹
第4节 CUDA 工具包：编译器，仿真器，调试工具 0.5学时 刘莹
第五章 CUDA 内存
第1节 内存模型：全局内存，局部内存，共享内存，常量内存 0.5学时 刘莹
第2节 变量 1学时 刘莹
第3节 如何使用全局变量和共享变量编程 0.5学时 刘莹
第六章 CUDA线程
第1节 控制流 0.5学时 刘莹
第2节 线程调度 0.5学时 刘莹
第3节 同步机制 0.5学时 刘莹
第4节 优化矩阵乘法 0.5学时 刘莹
第七章 性能优化
第1节 内存融合 0.5学时 刘莹
第2节 流和异步操作 0.5学时 刘莹
第3节 循环展开 0.3学时 刘莹
第4节 指令预取技术 0.3学时 刘莹
第5节 优化矩阵乘法 0.5学时 刘莹
第八章 CUDA经典案例
第1节 归约算法 0.5学时 刘莹
第2节 数据流 0.5学时 刘莹
第九章 高级技术
第1节 多GPU编程 0.5学时 刘莹
第2节 其它 0.5学时 刘莹
第十章 分布式系统的特征
第1节 基本概念 1学时 金蓓弘
第2节 分布式系统的设计目标 1学时 金蓓弘
第3节 分布式系统的时间 1学时 金蓓弘
第4节 分布式系统的全局状态 1学时 金蓓弘
第十一章 分布式系统设计的关注点
第1节 交互模型和数据模型 1学时 金蓓弘
第2节 故障模型和安全模型 1学时 金蓓弘
第十二章 分布式系统中的交互处理
第1节 进程的组织和交互 1学时 金蓓弘
第2节 分布式互斥 1.5学时 金蓓弘
第3节 分布式选举 1.5学时 金蓓弘
第十三章 分布式系统中的故障处理
第1节 可靠组播 1学时 金蓓弘
第2节 共识算法和拜占庭将军问题2 1学时 金蓓弘
第3节 分布式后向恢复 1学时 金蓓弘
第4节 分布式前向恢复 1学时 金蓓弘
第十四章 分布式系统中的数据处理
第1节 分布式资源管理 1学时 金蓓弘
第2节 P2P查找 1学时 金蓓弘
第3节 数据复制的实现 1学时 金蓓弘
第十五章 分布式事务处理
第1节 事务处理基础 0.5学时 金蓓弘
第2节 两阶段提交协议 0.5学时 金蓓弘
第3节 分布式死锁 1学时 金蓓弘
第4节 分布式事务的恢复 1学时 金蓓弘
教材信息
1、
分布式系统概念与设计（第5版）
金蓓弘等
2013
机械工业出版社
参考书
1、
GPU高性能编程CUDA实战
聂雪军
2011
机械工业出版社
课程教师信息
金蓓弘，中国科学院软件研究所研究员、博士生导师。1989年毕业于清华大学，1992年、1999年在中国科学院软件研究所获硕士、博士学位。主要研究领域是分布式计算、中间件、分布式系统、移动和普适计算。近年来，关注分布式事件检测和分发、物联网环境下的数据处理、车联网、普适应用。主持过多项国家863、NSFC等国家级项目，在国内外期刊和会议上发表学术论文130余篇。2001年获中国科学院科技进步一等奖，2009年获北京市科学技术一等奖，2011年获国家科学技术进步二等奖。在中国科学院大学（及其前身中国科学院研究生院）承担本科生、研究生课程的教学工作。2006年获中国科学院研究生院优秀教师荣誉称号，2015年获中国科学院朱李月华优秀教师奖。
刘莹，1999年获北京大学学士学位，2005年获美国西北大学博士学位。中国科学院大学计算机科学与技术学院，教授，博导，中国科学院大学数据挖掘与高性能计算实验室负责人。中国计算机学会高性能计算专业委员会委员。2022年获中国科学院李佩优秀教师奖，2017年获朱李月华优秀教师奖,北京市科技进步奖二等奖。
主要研究方向为数据挖掘、人工智能、高性能计算等，承担国家重点基础加强计划课题、自然基金项目、国防预研、国内外大型企事业单位委托项目30余项。已在国际期刊和国际会议上发表学术论文100余篇。获2009年英伟达全球教授合作奖，2014年获CUDA全球最佳教学中心。