人工智能攻防实践

课程编码：180203085412P5012Y 英文名称：AI Security Practice 课时：30 学分：1.00 课程属性：实验课 主讲教师：梁瑞刚等

可以深入了解和掌握主流的人工智能攻防手段，提高学生数据驱动、问题驱动等思维意识，夯实人工智能攻防的基础

无

第一章 人工智能对抗样本攻防实践 6学时 何锦雯
第1节 神经网络模型对抗攻击实践
第2节 神经网络模型对抗防御实践
第二章 模型后门攻防实践 6学时 何锦雯
第1节 模型后门植入实践
第2节 模型后门检测实践
第三章 模型水印保护 6学时 梁瑞刚
第1节 面向白盒的水印保护
第2节 面向黑盒的水印保护
第四章 成员推理与属性推理 3学时 梁瑞刚
第1节 成员推理与属性推理
第五章 神经网络可解释性 3学时 何锦雯
第1节 神经网络可解释性
第六章 模型脆弱性分析与修复 3学时 何锦雯
第1节 模型脆弱性分析与修复
第七章 深度伪造/反伪造实践 3学时 梁瑞刚
第1节 深度伪造/反伪造实践

梁瑞刚。中国科学院信息工程研究所高级工程师，主要研究方向为智能化软件安全、AI安全/大模型(智能体)安全，在IEEE S&P、USENIX Security，ACM CCS、NDSS等国际高水平学术会议/期刊发表论文30余篇，申请国家发明专利20余项，主持了国家重点研发计划课题、国自然重点基金课题/青年基金项目、科学院稳定支持青年团队课题等，获2024年度北京市科技进步一等奖、2023中国电子学会科技进步一等奖、2021年度电力科技创新二等奖、2025年中国软件大会原型竞赛二等奖等。
何锦雯，中国科学院信息工程研究所预聘副研究员，2025年通过“优才计划B类”进入中国科学院信息工程研究所工作，主要研究人工智能安全、模型可解释、大模型内容安全，在ACM CCS、USENIX Security、TIFS、TSE、ACL等网络空间安全和人工智能领域会议与期刊发表论文10余篇，参与国家自然科学基金重大研究计划、华为企业项目等。