人工智能生成内容检测技术

课程编码：180203083900P0007H 英文名称：Artificial Intelligence Generated Content Detection 课时：20 学分：1.00 课程属性：高级强化课 主讲教师：曹聪

人工智能（AI）正在改变世界，人工智能生成内容（AIGC）是当前最前沿的技术之一。然而，技术发展往往伴随着挑战和风险，由于生成内容逼真度高、生成速度快，生成式人工智能滥用引发了大量的安全问题。因此，如何精准检测人工智能生成内容并根据生成内容追溯源生成模型的身份，已经成为当前工业界和学术界关注的热点。本课程主要从主动检测和被动检测2个方面对人工智能生成内容检测方法进行介绍，具体包括生成式大模型、多媒体数字水印、AIGC水印、无水印取证溯源等。通过本课程的学习，使学生能够掌握人工智能生成内容检测的基本概念、理论方法和最新研究进展，迅速了解掌握人工智能生成内容检测的核心技术，为未来从事信息内容安全和人工智能安全相关领域研究打下坚实的基础。

机器学习

第一章 人工智能生成内容检测概述 曹聪
第1节 人工智能安全治理概述 0.5学时
第2节 生成式对抗网络 0.5学时
第3节 扩散模型 0.5学时
第4节 深度伪造 0.5学时
第5节 GPT生成模型 0.5学时
第6节 AIGC大模型 0.5学时
第二章 多媒体数字水印 曹聪
第1节 传统图像水印方法 1.0学时
第2节 传统视频水印方法 0.5学时
第3节 传统文本水印方法 0.5学时
第4节 基于深度学习的水印方法 1.0学时
第三章 生成内容主动检测 曹聪
第1节 白盒模型水印 1.5学时
第2节 黑盒模型水印 1.5学时
第3节 AIGC文本外置水印 0.5学时
第4节 AIGC图像外置水印 0.5学时
第5节 文字内容水印技术 1.5学时
第6节 图像内容水印技术 1.5学时
第7节 扰动水印技术 1.0学时
第8节 验证水印技术 1.0学时
第四章 生成内容被动溯源 曹聪
第1节 生成图像检测技术 1.5学时
第2节 生成文本检测技术 1.0学时
第3节 生成图像溯源技术 1.0学时
第4节 生成文本溯源技术 1.5学时

曹聪，中国科学院信息工程研究所高级工程师、硕士生导师；长期从事自然语言处理、数据挖掘等方面研究工作，在EMNLP、COLING、ICASSP、Cogsci等国际知名会议上发表学术论文30余篇，申请发明专利24项，授权9项，登记软件著作权6项。近五年作为课题负责人或执行负责人承担国家重点研发计划、省部级重点项目、地方政府重大工程等项目8项，累计承担科研经费达7000余万元。先后获得所级优秀员工、室主任特别奖、室级优秀员工等荣誉。