# Documentation

- [GenAI 安全攻防实战课程](/docs): 系统学习生成式 AI 安全的攻击技术和防御策略，涵盖提示词注入、越狱攻击、对抗样本、隐私泄露、数据投毒等核心主题，5大模块、20章精讲、16个动手实验
- [第4章：AI 安全测试环境搭建](/docs/01-ai-security-basics/environment-setup): 配置完整的 AI 安全测试环境，包括云平台使用、Python 配置和核心依赖库安装
- [AI 安全基础总览](/docs/01-ai-security-basics): 建立 AI 安全的核心概念和基础知识，为后续深入学习打下坚实基础
- [第2章：大语言模型的工作原理](/docs/01-ai-security-basics/llm-principles): 揭开大语言模型的神秘面纱，理解 Transformer 架构、文本分词和关键参数
- [第3章：红队视角：像攻击者一样思考](/docs/01-ai-security-basics/red-team-thinking): 建立红队思维，学习威胁建模方法，理解攻击者的动机和手法
- [第1章：AI 安全威胁全景图](/docs/01-ai-security-basics/threat-landscape): 认识 AI 安全领域的主要威胁，理解为什么 AI 安全与传统网络安全存在本质差异
- [第5章：AI 漏洞探测初体验](/docs/01-ai-security-basics/vulnerability-detection): 亲手探测 AI 系统的漏洞，体验从红队视角发现安全问题的过程
- [第4章：内容过滤器绕过技术](/docs/02-prompt-attacks/filter-bypass): 深入理解内容过滤器的工作机制，学习字符级、语义级、结构级绕过技术
- [提示词攻击总览](/docs/02-prompt-attacks): 深入学习提示词注入、越狱技术和防御策略，理解 AI 系统面临的最普遍攻击面
- [第1章：提示词注入基础原理](/docs/02-prompt-attacks/injection-basics): 理解提示词注入的本质，掌握直接注入、间接注入和多轮对话注入技术
- [第2章：越狱技术详解](/docs/02-prompt-attacks/jailbreaking): 学习 DAN 系列越狱技术、编码绕过、逻辑操纵和场景构造方法
- [第3章：系统提示提取技术](/docs/02-prompt-attacks/prompt-extraction): 掌握直接请求、间接诱导、编码翻译等系统提示词提取方法
- [第4章：多层防御整合](/docs/03-ai-defense/defense-integration): 将系统提示词设计、输入层防护和输出层防护整合为完整的纵深防御体系
- [AI 应用安全防御总览](/docs/03-ai-defense): 从攻击者视角转向防御者视角，学习构建安全的 AI 应用
- [第2章：输入层防护](/docs/03-ai-defense/input-protection): 学习如何在用户输入到达模型之前进行安全检测与过滤，拦截恶意请求
- [第3章：输出层防护](/docs/03-ai-defense/output-protection): 学习如何对模型输出进行安全审查，防止敏感信息泄露和有害内容生成
- [第1章：安全系统提示词设计](/docs/03-ai-defense/secure-prompt-design): 学习系统提示词的安全设计原则，掌握防注入、防提取的提示词编写技巧
- [第1章：对抗样本](/docs/04-risk-landscape/adversarial-examples): 了解对抗样本的概念，通过文本对抗实例理解"微小修改、颠覆判断"的攻击原理
- [第3章：数据投毒与后门](/docs/04-risk-landscape/data-poisoning): 了解数据投毒攻击的原理，理解后门攻击中"触发词→异常行为"的机制
- [AI 安全风险全景总览](/docs/04-risk-landscape): 跳出应用层攻防视角，从模型层和供应链层全面认识 AI 系统面临的安全风险
- [第2章：隐私泄露](/docs/04-risk-landscape/privacy-leakage): 了解 LLM 记忆训练数据的机制，认识数据提取攻击和成员推断攻击的原理
- [第4章：供应链安全](/docs/04-risk-landscape/supply-chain-security): 认识开源模型和依赖库的安全风险，学习模型卡审计方法
- [第2章：新兴威胁与趋势](/docs/05-assessment-outlook/emerging-threats): 了解 AI Agent 安全、多模态攻击、深度伪造等 AI 安全领域的前沿话题
- [安全评估与展望总览](/docs/05-assessment-outlook): 学习系统性评估 AI 应用安全性的方法，了解新兴威胁趋势，探讨 AI 伦理与合规实践
- [第3章：AI 伦理与合规实践](/docs/05-assessment-outlook/responsible-ai): 探讨 AI 伦理原则、安全开发生命周期和 AI 安全从业者的职业发展方向
- [第1章：安全评估方法论](/docs/05-assessment-outlook/security-assessment): 学习系统性评估 AI 应用安全性的框架、威胁建模方法和安全检查清单
- [实验 1.1：环境配置](/docs/01-ai-security-basics/labs/environment-setup): 配置 Python 环境，安装核心依赖库，加载并验证第一个大语言模型
- [实验 1.2：漏洞侦察](/docs/01-ai-security-basics/labs/vulnerability-reconnaissance): 对 AI 系统进行初步安全探测，体验漏洞发现与结构化记录流程
- [实验 2.2：越狱技术体验](/docs/02-prompt-attacks/labs/jailbreaking): 亲手尝试不同的越狱技术，观察模型的响应差异
- [实验 2.3：系统提示提取](/docs/02-prompt-attacks/labs/prompt-extraction): 使用多种技术尝试提取系统提示词，体验攻防对抗
- [实验 2.1：提示词注入](/docs/02-prompt-attacks/labs/prompt-injection): 通过实际操作体验直接注入、间接注入等攻击技术
- [实验 3.2：输入过滤器](/docs/03-ai-defense/labs/input-filter): 实现关键词过滤、语义分类和格式约束三种输入检测方法，构建输入安全检测管道
- [实验 3.3：输出审查器](/docs/03-ai-defense/labs/output-reviewer): 实现输出层安全审查机制，包括敏感信息检测、内容安全分类和一致性验证
- [实验 3.4：安全聊天机器人](/docs/03-ai-defense/labs/secure-chatbot): 综合运用三层防御技术，构建一个具有完整安全防护的聊天机器人并进行红蓝对抗
- [实验 3.1：安全提示词设计](/docs/03-ai-defense/labs/secure-prompt): 动手编写安全的系统提示词，并测试其抵御注入、越狱和提示词提取攻击的能力
- [实验4.3 后门模拟实验](/docs/04-risk-landscape/labs/backdoor-simulation): 通过系统提示词模拟后门触发机制，体验"触发词→异常行为"的工作原理
- [实验4.4 模型卡安全审计](/docs/04-risk-landscape/labs/model-card-audit): 对模拟的模型卡进行安全审计，练习系统性评估开源模型的安全风险
- [实验4.2 隐私泄露检测](/docs/04-risk-landscape/labs/privacy-detection): 测试 LLM 是否会泄露特定模式的信息，体验训练数据提取攻击的基本原理
- [实验4.1 文本对抗攻击](/docs/04-risk-landscape/labs/text-adversarial): 动手体验文本扰动技术，通过字符替换、同义词替换等方法影响 Qwen 模型的判断
- [实验5.3 综合安全审计](/docs/05-assessment-outlook/labs/comprehensive-audit): 综合运用全课程所学技术，对一个 AI 聊天助手进行全面的安全审计
- [实验5.1 AI 应用安全检查清单](/docs/05-assessment-outlook/labs/security-checklist): 构建一份可复用的安全检查清单，对模拟 AI 应用场景进行自动化安全评估
- [实验5.2 威胁建模练习](/docs/05-assessment-outlook/labs/threat-modeling): 对给定的 AI 应用场景进行 STRIDE 威胁建模，输出结构化的威胁分析报告