人工智能攻防实践
课程编码：180203085412P5012Y
英文名称：AI Security Practice
课时：30
学分：1.00
课程属性：实验课
主讲教师：梁瑞刚等
教学目的要求
可以深入了解和掌握主流的人工智能攻防手段，提高学生数据驱动、问题驱动等思维意识，夯实人工智能攻防的基础
预修课程
无
大纲内容
第一章 人工智能对抗样本攻防实践 6学时 赵月
第1节 神经网络模型对抗攻击实践
第2节 神经网络模型对抗防御实践
第二章 模型后门攻防实践 6学时 赵月
第1节 模型后门植入实践
第2节 模型后门检测实践
第三章 模型水印保护 6学时 梁瑞刚
第1节 面向白盒的水印保护
第2节 面向黑盒的水印保护
第四章 成员推理与属性推理 3学时 梁瑞刚
第1节 成员推理与属性推理
第五章 神经网络可解释性 3学时 赵月
第1节 神经网络可解释性
第六章 模型脆弱性分析与修复 3学时 赵月
第1节 模型脆弱性分析与修复
第七章 深度伪造/反伪造实践 3学时 梁瑞刚
第1节 深度伪造/反伪造实践
参考书
1、
人工智能安全
方滨兴
2020-6-1
电子工业出版社
课程教师信息
梁瑞刚，中国科学院信息工程研究所 工程师。主要研究领域包括软件与系统安全、人工智能安全。在USENIX Security，ACM CCS等发表论文10余篇；申请国家发明专利10余项，曾主持或参与国家重点研发计划课题、国家自然科学基金重点/面上项目、中科院先导专项等科技项目20余项。曾获得2021年电力科技创新二等奖，2018年中国科学院信息工程研究所重大科技进展奖。