人工智能安全与对抗
课程编码：180206081104P3005H
英文名称：Artificial Intelligence Security,Attacks,and Defenses
课时：40
学分：2.00
课程属性：专业课
主讲教师：董晶等
教学目的要求
本课程涵盖人工智能研究领域的重要前沿内容。人工智能作为一种新型使能技术，必然会带来新的安全问题，这是新技术在安全方面的伴生效应。同时，人工智能作为一种前沿技术，能够不断赋能于安全领域，且其既可赋能于正面防御，也可赋能于反向攻击，从而衍生出人工智能安全与对抗新型博弈问题。本课程的教学目的是通过相关知识点和基本概念的、原理讲述与典型案例分析，让学生了解人工智能技术在理论发展与技术应用中可能存在的安全、可信甚至伦理问题和一般基础解决手段，进一步促进学生掌握人工智能网络攻防的技术原理，了解当前可信人工智能发展面临的机遇和挑战，激发学生投身相关领域科研的热情。
预修课程
人工智能、模式识别、机器学习
大纲内容
第一章 人工智能技术发展概述 2学时 董晶
第1节 人工智能研究方向和发展历史
第2节 人工智能现状和带来的巨大冲击
第二章 人工智能安全概述 2学时 董晶
第1节 人工智能安全体系架构与分类
第2节 人工智能安全所处位置与外部关联
第3节 国际与国内人工智能安全进展
第三章 机器学习预备知识 4学时 董晶
第1节 监督学习
第2节 无监督学习
第3节 强化学习
第四章 对抗机器学习 10学时 董晶
第1节 对抗机器学习的攻击类型
第2节 决策时攻击与防御
第3节 数据投毒攻击与防御
第4节 模型提取攻击与防御
第五章 人工智能安全与对抗在生物特征识别领域的应用 20学时 彭勃
第1节 生物特征识别概述
第2节 人脸识别
第3节 人脸识别防假体攻击方法
第4节 人脸虚假图像生成技术
第5节 人脸虚假图像检测技术
第6节 DeepFake Game比赛实践
第六章 人工智能安全的未来展望 2学时 董晶
第1节 人工智能安全研究热点与趋势
第2节 治理措施与政策法规
参考书
1、
人工智能安全,如何创造可信的AI,对抗机器学习：机器学习系统中的攻击和防御,Handbook of Biometric Anti-Spoofing: Presentation Attack Detection
方滨兴,盖瑞.马库斯,Yevgeniy Vorobeychik, Sébastien Marcel
2020年6月, 2020年5月, 2019年12月, 2019年1月
电子工业出版社,浙江教育出版社,机械工业出版社,Springer出版社
课程教师信息
董晶 ,女，中科院自动化研究所多模态人工智能系统全国重点实验室研究员，中国科学院青年促进会会员。她现为IEEE/CCF/CSIG高级会员，CAAI杰出会员，目前已在国际权威期刊及学术会议上发表高水平学术论文80余篇，已申请发明专利30余项，其中已授权24项中国专利含3项美国专利。她先后以负责人承担了3项国家自然科学基金面上项目、1项国家重点研发计划课题 、1项国家自然科学基金重点项目子课题及2项国家重点研发计划子课题及20余项省部级科研项目（课题）。研究成果曾获4次最佳学术论文奖励，曾获2022年国家广电总局MediaAIAC大赛深度合成技术应用类一等奖（排名第一）、2022年中国发明协会发明创新奖一等奖（排名第一）、2021年CSIG技术发明二等奖（排名第一）及2019年中国人工智能学会杰出贡献奖、2020年CSIG石青云女科学家奖等多项省部级科技成果与人才奖励。
董晶研究员还具有广泛的国内外学术联系，她是中国人工智能学会(CAAI)理事、中国图象图形学学会(CSIG)理事、副秘书长；CSIG女科技工作者委员会秘书长；北京图象图形学学会(BSIG)常务理事、青工委主任委员；她作为首位中国籍青年女性，连续8年担任IEEE亚太区执委（2017-2024）。目前她还担任IEEE亚太区奖励委员会主席（2023-2024）、IEEE人道主义科技董事会成员（2023）及IEEE信号处理协会会员发展董事会成员，有效促进了本领域国内外文化交流与学术合作。
彭勃，博士，副研究员， 2018 年至今在中科院自动化所工作。在图像内容取证与安全、深度伪造对抗攻防等领域有着深入研究经验。主持科技部重点研发课题、国家自然科学基金面上项目、中国科协青年托举项目、北京市自然科学基金面上项目、华为MindSpore学术奖励基金等共 8项。在 IEEE TIFS、TCSVT、CVPR、ACM MM等重要国际期刊和会议上发表论文 20 余篇，获发明专利授权 16项，软件著作权授权2项，曾获中国图象图形学学会技术发明奖二等奖、北京市优秀毕业生等奖项和荣誉。目前是 中国图像图形学会数字媒体取证与安全专业委员会委员。