GenAI 安全攻防实战课程
系统学习 AI 安全的攻击技术和防御策略
欢迎来到 GenAI 安全攻防实战课程！这是一门专注于生成式 AI 安全的中文实战教程，将带你深入了解 AI 系统面临的安全威胁，掌握攻击技术和防御策略。
课程特色
- 🎯 理论与实践结合：每个模块配套 Jupyter 实验
- 🔬 真实案例分析：基于最新的 AI 安全研究和事件
- 🛡️ 攻防双视角：既学习攻击技术，也掌握防御策略
- 📚 系统化学习路径：从基础到进阶，循序渐进
课程模块
模块一：AI 安全基础
建立 AI 安全核心概念，搭建测试环境，进行初步漏洞探测
模块二：提示词攻击
深入学习提示词注入、越狱技术、系统提示提取和防御策略
模块三：对抗样本
掌握 FGSM、PGD 等对抗攻击技术，理解白盒和黑盒攻击方法
模块四：隐私攻击
学习成员推理、模型逆向攻击，掌握差分隐私保护技术
模块五：数据投毒
理解数据投毒和后门攻击原理，学习检测和防御方法
学习前提
推荐背景知识
- Python 编程：熟悉 Python 基础语法
- 机器学习基础：了解基本的机器学习概念
- 深度学习入门：对神经网络有初步了解（可选）
如何使用本课程
- 按顺序学习：建议从模块一开始，按顺序完成所有模块
- 动手实践：每个模块的配套实验是学习的重要组成部分
- 完成思考题：每章末尾的思考题帮助巩固所学知识
- 持续探索：关注 AI 安全领域的最新研究和事件
开始学习
准备好了吗？让我们从 AI 安全基础开始！