GenAI 安全攻防实战课程
系统学习生成式 AI 安全的攻击技术和防御策略，涵盖提示词注入、越狱攻击、对抗样本、隐私泄露、数据投毒等核心主题，5大模块、20章精讲、16个动手实验
欢迎来到 GenAI 安全攻防实战课程！这是一门专注于生成式 AI 安全的中文实战教程，将带你深入了解 AI 系统面临的安全威胁，掌握攻击技术和防御策略。
课程特色
- 理论与实践结合：每个模块配套 Jupyter 实验
- 真实案例分析：基于最新的 AI 安全研究和事件
- 攻防双视角：既学习攻击技术，也掌握防御策略
- 系统化学习路径：从基础到进阶，循序渐进
课程模块
整个课程围绕"认识风险 → 实施攻击 → 构建防御 → 全面评估"的主线展开，共分为五个模块。每个模块都有配套的 Jupyter 实验，建议按顺序完成，因为后一个模块的内容会自然地建立在前一个模块的基础之上。
模块一：AI 安全基础
建立 AI 安全核心概念，搭建测试环境，进行初步漏洞探测
模块二：提示词攻击
深入学习提示词注入、越狱技术、系统提示提取和过滤器绕过
模块三：AI 应用安全防御
安全提示词设计、输入过滤、输出审查、多层防御整合与红蓝对抗
模块四：AI 安全风险全景
对抗样本、隐私泄露、数据投毒与后门、供应链安全风险
模块五：安全评估与展望
安全评估方法论、新兴威胁趋势、负责任的 AI 实践
学习前提
推荐背景知识
- Python 编程：熟悉 Python 基础语法
- 机器学习基础：了解基本的机器学习概念（无需深度学习背景）
如何使用本课程
如果你具备上述基础知识，就可以开始学习了。以下是一些帮助你获得最佳学习效果的建议：
- 按顺序学习：建议从模块一开始，按顺序完成所有模块，每个模块的知识都是后续模块的基础
- 动手实践：每个模块的配套实验是学习的重要组成部分，光看不练很难真正掌握
- 完成思考题：每章末尾的思考题帮助你将知识内化，而不是停留在"看过"的层面
- 持续探索：AI 安全是一个快速发展的领域，保持对最新研究和安全事件的关注
开始学习
准备好了吗？让我们从 AI 安全基础开始，一起踏上这段攻防之旅！