人工智能攻防实践
课程编码：180203085412P5012H
英文名称：AI Security Practice
课时：30
学分：1.00
课程属性：实验课
主讲教师：梁瑞刚等
教学目的要求
可以深入了解和掌握主流的人工智能攻防手段，提高学生数据驱动、问题驱动等思维意识，夯实人工智能攻防的基础
预修课程
无
大纲内容
第一章 人工智能对抗样本攻防实践 6学时 赵月
第1节 神经网络模型对抗攻击实践
第2节 神经网络模型对抗防御实践
第二章 模型后门攻防实践 6学时 赵月
第1节 模型后门植入实践
第2节 模型后门检测实践
第三章 模型水印保护 6学时 赵月
第1节 面向白盒的水印保护
第2节 面向黑盒的水印保护
第四章 成员推理与属性推理 3学时 赵月
第1节 成员推理与属性推理
第五章 神经网络可解释性 3学时 梁瑞刚
第1节 神经网络可解释性
第六章 模型脆弱性分析与修复 3学时 梁瑞刚
第1节 模型脆弱性分析与修复
第七章 深度伪造/反伪造实践 3学时 梁瑞刚
第1节 深度伪造/反伪造实践
参考书
1、
人工智能安全
方滨兴
2020-6-1
电子工业出版社
课程教师信息
"赵月，中国科学院信息工程研究所预聘副研究员，硕导。主要研究领域为人工智能安全，获得北京市科技新星，中国电子学会青年人才托举项目与国家自然科学基金青年等项目。
梁瑞刚。中国科学院信息工程研究所高级工程师，主要研究方向为智能化软件安全、AI安全/大模型(智能体)安全，在IEEE S&P、USENIX Security，ACM CCS、NDSS等国际高水平学术会议/期刊发表论文30余篇，申请国家发明专利20余项，主持了国家重点研发计划课题、国自然重点基金课题/青年基金项目、科学院稳定支持青年团队课题等，获2024年度北京市科技进步一等奖、2023中国电子学会科技进步一等奖、2021年度电力科技创新二等奖、2025年中国软件大会原型竞赛二等奖等。"