课程简介
在AI技术全面落地的今天，Agent、大模型与流量安全已成为企业数字化转型的三大核心防线。本课程由近20年安全实战经验的架构师亲授，系统覆盖Agent七层攻击面、大模型端-管-云协同防护、流量安全全量溯源三大模块，结合真实攻击案例与合规治理要求，为企业构建从攻击面识别到防御体系落地的全链路安全能力。
目标收益
对学员
1. 掌握Agent七层攻击面防御，建立智能体安全全景认知
2. 构建大模型纵深防御体系，实现端-管-云协同防护
3. 提升流量安全溯源能力，掌握加密流量分析与攻击链还原
4. 获得一线攻防实战经验，通过真实案例复盘掌握攻防方法论
5. 建立合规治理能力，掌握从备案到持续合规运营全流程
6. 规划安全建设路线图，制定企业分阶段安全落地实施规划
对企业
1. 降低合规与法律风险，满足生成式AI备案等法规要求
2. 构建统一防护体系，覆盖智能体、大模型、流量安全
3. 提升安全运营效率，通过自动化测试与护栏实现持续防护
4. 预防高危安全事故，提前发现Agent越权、模型越狱等风险
5. 缩短安全响应闭环，增强团队AI安全实战能力
6. 实现安全左移落地，在开发阶段即植入安全能力
培训对象
核心受众（强烈推荐）：安全架构师、AI研发工程师、风控/安全运维负责人、企业技术决策者
扩展受众：合规/法务负责人、DevSecOps工程师、对Agent与大模型安全感兴趣的技术管理者
课程大纲
| 第一大模块：Agent安全 |
1. Agent安全业务介绍 ◦ 1.1 大模型Agent技术演进与安全范式转移 ◦ 1.2 Agent安全与传统应用安全的本质差异 ◦ 1.3 Agent安全的业务定位与核心价值 ◦ 1.4 合规监管要求与企业安全治理目标 2. Agent典型风险场景 ◦ 2.1 提示词注入与指令劫持攻击 ◦ 2.2 敏感数据泄露与隐私合规风险 ◦ 2.3 工具调用滥用与越权操作风险 ◦ 2.4 幻觉诱导与恶意内容生成风险 ◦ 2.5 记忆投毒与上下文持久化攻击 3. Agent七层攻击面 ◦ 3.1 LASM七层框架标准定义与设计理念 ◦ 3.2 L1基础模型层：模型越狱与输入对抗风险 ◦ 3.3 L2认知规划层：推理劫持与恶意工具链生成 ◦ 3.4 L3记忆持久层：记忆投毒、污染与隐私留存风险 ◦ 3.5 L4工具执行层：越权、逃逸、系统调用高危行为 ◦ 3.6 L5多Agent协同层：跨智能体通信与权限滥用风险 ◦ 3.7 L6生态供应链层：外部插件与接口STI污染风险 ◦ 3.8 L7治理审计层：日志缺失、不可溯源、合规缺失风险 4. Agent典型攻击案例 ◦ 4.1 间接提示词注入导致RCE执行复盘 ◦ 4.2 自动化工作流中的权限提升攻击实录 ◦ 4.3 跨Agent通信协议劫持与数据窃取案例 ◦ 4.4 攻防演练中暴露的高危脆弱点总结 5. Agent安全业务架构 ◦ 5.1 防护工具总体架构设计与核心组件解析 ◦ 5.2 输入/输出双向实时检测与拦截机制 ◦ 5.3 工具调用沙箱隔离与动态权限管控 ◦ 5.4 安全策略编排引擎与可观测性平台 ◦ 5.5 应急响应流程与安全运营集成实践 6. Agent安全评估与测试验证 ◦ 6.1 Agent专用安全评测基准与指标体系 ◦ 6.2 自动化红队测试工具与Fuzzing策略 ◦ 6.3 安全护栏有效性验证与误报率调优 7. Agent备案管理与合规落地 ◦ 7.1 生成式AI服务备案政策法规解读 ◦ 7.2 Agent类应用备案范围界定与分类标准 ◦ 7.3 备案后持续合规运营与变更报备机制 ◦ 7.4 安全防护能力与备案审核的关联映射 8. 未来趋势与安全建设规划 ◦ 8.1 自适应防御与AI驱动的安全对抗演进 ◦ 8.2 企业级Agent安全落地路线图与里程碑 ◦ 8.3 安全左移：Agent开发全生命周期安全嵌入 |
| 第二大模块：大模型安全 |
1. 大模型安全业务介绍 ◦ 1.1 业务背景与挑战 ◦ 从传统Web安全到LLM安全的范式转移（攻击面变化） ◦ 生成式AI带来的新型合规与内容安全风险 ◦ 1.2 安全防护平台的核心价值 ◦ 统一的"端-管-云"协同防护架构 ◦ 兼顾低延迟（毫秒级）与高精度（语义级）的防御目标 ◦ 对业务系统的无侵入性与OpenAI兼容代理模式 ◦ 1.3 合规与治理目标 ◦ 满足数据隐私保护与内容合规要求 ◦ 提供全链路审计与可追溯性 2. 大模型典型风险场景 ◦ 2.1 输入侧攻击 ◦ 提示词注入与指令劫持 ◦ 越狱攻击（Jailbreak）：角色扮演绕过、DAN模式 ◦ 间接提示词注入（通过外部知识库/工具参数） ◦ 2.2 输出侧与数据风险 ◦ 敏感数据泄露（PII）与隐私暴露 ◦ 违规内容生成（涉政、暴恐、色情） ◦ 版权侵犯与不道德内容生成 ◦ 2.3 系统与业务逻辑风险 ◦ 幻觉诱导与虚假信息传播 ◦ 工具调用滥用与权限提升 ◦ 高频暴力破解与资源滥用 3. 大模型典型攻击案例 ◦ 3.1 案例复盘：提示词注入导致的数据泄露 ◦ 攻击路径：恶意构造输入绕过基础规则 ◦ 防护分析：端侧DLP脱敏+云侧语义拦截的双重验证 ◦ 3.2 案例复盘：越狱攻击（DAN模式） ◦ 攻击路径：角色扮演迫使模型忽略安全限制 ◦ 防护分析：云侧安全模型（如Qwen3Guard）的分类能力 ◦ 3.3 案例复盘：高频暴力破解与滥用 ◦ 攻击路径：自动化脚本高频调用API ◦ 防护分析：网关侧累计计数器与速率限制 ◦ 3.4 案例复盘：间接注入与工具滥用 ◦ 攻击路径：通过上传文档或工具参数注入恶意指令 ◦ 防护分析：会话级风控与上下文感知 4. 大模型安全解决方案 ◦ 4.1 端侧防护 ◦ 技术栈：SDK嵌入客户端/移动端 ◦ 能力：本地关键词/黑名单拦截、DLP脱敏 ◦ 特点：毫秒级延迟、可离线运行、行为画像采集 ◦ 4.2 管侧防护 ◦ 技术栈：APISIX/Kong + Sidecar ◦ 能力：静态规则匹配、名单检查（IP/UID）、累计计数器（限流） ◦ 特点：流量必经之路、SSE流式输出审计、协议校验 ◦ 4.3 云侧防护 ◦ 技术栈：微服务+LLM推理 ◦ 能力：语义级检测（微调安全模型）、自定义策略终判 ◦ 能力：传统ML模型集成、多层信号合并 ◦ 4.4 统一控制与决策 ◦ 控制面：运营台与规则注册中心 ◦ 决策逻辑：Deny > Captcha > Review > Allow的优先级合并 5. 大模型安全业务架构 ◦ 5.1 整体架构设计 ◦ 架构图解：用户->端SDK->网关->云引擎->LLM ◦ 数据流：Header透传与Trace串联 ◦ 5.2 核心组件详解 ◦ 端侧核心：轻量级SDK，负责本地拦截与脱敏 ◦ 网关插件：Lua规则引擎，高性能过滤与流控 ◦ 云侧引擎：策略计算核心，负责语义检测与终判 ◦ 控制中心：规则全生命周期管理与发布 ◦ 5.3 规则编译与发布流 ◦ 编译器：规则DSL->各层可执行产物 ◦ 发布模式：dry_run（试运行）->canary（灰度）->full（全量） ◦ 存储后端：Redis（缓存/计数）+Database（规则元数据） 6. 大模型备案与合规体系 ◦ 6.1 备案政策与法规解读 ◦ 生成式人工智能服务管理暂行办法核心要求 ◦ 算法备案与安全评估的流程与标准 ◦ 6.2 备案技术要求落地 ◦ 安全检测能力：如何通过"语义识别+关键词"满足内容合规要求 ◦ 防沉迷与实名制：用户身份认证（Auth Mode）与未成年保护 ◦ 数据安全与隐私：训练数据来源合法性与个人信息保护（DLP） ◦ 6.3 合规运营与审计 ◦ 日志留存：全链路审计日志（输入/输出/决策）的存储与调取 ◦ 内容标识：生成内容的显式与隐式标识技术 ◦ 应急响应机制：针对违规内容的快速阻断与模型迭代流程 7. 未来趋势与安全建设规划 ◦ 7.1 生成式AI攻击对抗发展新趋势 ◦ 7.2 Agent、多智能体场景下安全防护演进方向 ◦ 7.3 自适应防御、AI驱动自动风控技术发展 ◦ 7.4 企业分阶段LLM安全落地实施规划 ◦ 7.5 安全左移：AI应用全生命周期安全嵌入方案 ◦ 7.6 常态化攻防运营与持续防护迭代机制 |
| 第三大模块：流量安全 |
1. 流量安全业务介绍 ◦ 1.1 网络流量分析在纵深防御体系中的核心价值与定位 ◦ 1.2 从传统边界防护到全流量感知安全范式的转移 ◦ 1.3 实时检测与全量溯源双引擎协同的业务价值 ◦ 1.4 合规监管要求与企业流量安全治理目标映射 2. 流量安全典型风险场景 ◦ 2.1 加密流量滥用与隐蔽信道通信风险 ◦ 2.2 API接口滥用、越权访问与数据爬取风险 ◦ 2.3 内网横向移动、C2通信与持久化驻留风险 ◦ 2.4 敏感数据传输泄露与隐私合规风险 ◦ 2.5 新型应用协议（SSE/WebSocket/gRPC）攻击面扩展 3. 流量安全三层攻击面 ◦ 3.1 流量安全三层攻击面定义、设计理念与防护闭环 ◦ 3.2 边界检测层：南北向流量入侵、异常访问、恶意请求风险 ◦ 3.3 传输交互层：七层业务载荷、加密流量、数据外溢风险 ◦ 3.4 全量取证层：日志缺失、无原始数据包、攻击无法溯源合规风险 4. 流量安全典型攻击案例 ◦ 4.1 加密C2隧道通信检测与溯源复盘 ◦ 4.2 API接口批量爬取与敏感数据泄露实录 ◦ 4.3 内网横向移动攻击链完整流量还原 ◦ 4.4 攻防演练中暴露的流量监测盲区总结 5. 流量安全合规治理 ◦ 5.1 网络安全法/数据安全法/个保法流量合规要求解读 ◦ 5.2 流量采集、存储、使用的合规边界界定 ◦ 5.3 敏感字段脱敏规范与日志留存周期合规配置 ◦ 5.4 合规审计材料准备与监管检查应对要点 ◦ 5.5 安全防护能力与合规审核指标的关联映射 6. 流量安全业务架构 ◦ 6.1 实时检测+全量溯源双引擎总体架构设计 ◦ 6.2 高性能数据包捕获与零拷贝技术实现 ◦ 6.3 深度协议解析与应用层元数据提取机制 ◦ 6.4 告警-会话联动自动化溯源闭环设计 ◦ 6.5 安全运营集成与应急响应流程实践 7. 流量安全评估与测试验证 ◦ 7.1 流量安全检测能力评测基准与指标体系 ◦ 7.2 流量回放测试与规则有效性验证方法 ◦ 7.3 误报率调优与检测覆盖率持续优化策略 8. 未来趋势与安全建设规划 ◦ 8.1 AI驱动的加密流量检测与异常行为分析演进 ◦ 8.2 eBPF/云原生流量采集技术发展与应用前景 ◦ 8.3 企业级流量安全建设路线图与阶段性里程碑 ◦ 8.4 安全左移：流量安全能力嵌入DevSecOps全流程 |
|
第一大模块：Agent安全 1. Agent安全业务介绍 ◦ 1.1 大模型Agent技术演进与安全范式转移 ◦ 1.2 Agent安全与传统应用安全的本质差异 ◦ 1.3 Agent安全的业务定位与核心价值 ◦ 1.4 合规监管要求与企业安全治理目标 2. Agent典型风险场景 ◦ 2.1 提示词注入与指令劫持攻击 ◦ 2.2 敏感数据泄露与隐私合规风险 ◦ 2.3 工具调用滥用与越权操作风险 ◦ 2.4 幻觉诱导与恶意内容生成风险 ◦ 2.5 记忆投毒与上下文持久化攻击 3. Agent七层攻击面 ◦ 3.1 LASM七层框架标准定义与设计理念 ◦ 3.2 L1基础模型层：模型越狱与输入对抗风险 ◦ 3.3 L2认知规划层：推理劫持与恶意工具链生成 ◦ 3.4 L3记忆持久层：记忆投毒、污染与隐私留存风险 ◦ 3.5 L4工具执行层：越权、逃逸、系统调用高危行为 ◦ 3.6 L5多Agent协同层：跨智能体通信与权限滥用风险 ◦ 3.7 L6生态供应链层：外部插件与接口STI污染风险 ◦ 3.8 L7治理审计层：日志缺失、不可溯源、合规缺失风险 4. Agent典型攻击案例 ◦ 4.1 间接提示词注入导致RCE执行复盘 ◦ 4.2 自动化工作流中的权限提升攻击实录 ◦ 4.3 跨Agent通信协议劫持与数据窃取案例 ◦ 4.4 攻防演练中暴露的高危脆弱点总结 5. Agent安全业务架构 ◦ 5.1 防护工具总体架构设计与核心组件解析 ◦ 5.2 输入/输出双向实时检测与拦截机制 ◦ 5.3 工具调用沙箱隔离与动态权限管控 ◦ 5.4 安全策略编排引擎与可观测性平台 ◦ 5.5 应急响应流程与安全运营集成实践 6. Agent安全评估与测试验证 ◦ 6.1 Agent专用安全评测基准与指标体系 ◦ 6.2 自动化红队测试工具与Fuzzing策略 ◦ 6.3 安全护栏有效性验证与误报率调优 7. Agent备案管理与合规落地 ◦ 7.1 生成式AI服务备案政策法规解读 ◦ 7.2 Agent类应用备案范围界定与分类标准 ◦ 7.3 备案后持续合规运营与变更报备机制 ◦ 7.4 安全防护能力与备案审核的关联映射 8. 未来趋势与安全建设规划 ◦ 8.1 自适应防御与AI驱动的安全对抗演进 ◦ 8.2 企业级Agent安全落地路线图与里程碑 ◦ 8.3 安全左移：Agent开发全生命周期安全嵌入 |
|
第二大模块：大模型安全 1. 大模型安全业务介绍 ◦ 1.1 业务背景与挑战 ◦ 从传统Web安全到LLM安全的范式转移（攻击面变化） ◦ 生成式AI带来的新型合规与内容安全风险 ◦ 1.2 安全防护平台的核心价值 ◦ 统一的"端-管-云"协同防护架构 ◦ 兼顾低延迟（毫秒级）与高精度（语义级）的防御目标 ◦ 对业务系统的无侵入性与OpenAI兼容代理模式 ◦ 1.3 合规与治理目标 ◦ 满足数据隐私保护与内容合规要求 ◦ 提供全链路审计与可追溯性 2. 大模型典型风险场景 ◦ 2.1 输入侧攻击 ◦ 提示词注入与指令劫持 ◦ 越狱攻击（Jailbreak）：角色扮演绕过、DAN模式 ◦ 间接提示词注入（通过外部知识库/工具参数） ◦ 2.2 输出侧与数据风险 ◦ 敏感数据泄露（PII）与隐私暴露 ◦ 违规内容生成（涉政、暴恐、色情） ◦ 版权侵犯与不道德内容生成 ◦ 2.3 系统与业务逻辑风险 ◦ 幻觉诱导与虚假信息传播 ◦ 工具调用滥用与权限提升 ◦ 高频暴力破解与资源滥用 3. 大模型典型攻击案例 ◦ 3.1 案例复盘：提示词注入导致的数据泄露 ◦ 攻击路径：恶意构造输入绕过基础规则 ◦ 防护分析：端侧DLP脱敏+云侧语义拦截的双重验证 ◦ 3.2 案例复盘：越狱攻击（DAN模式） ◦ 攻击路径：角色扮演迫使模型忽略安全限制 ◦ 防护分析：云侧安全模型（如Qwen3Guard）的分类能力 ◦ 3.3 案例复盘：高频暴力破解与滥用 ◦ 攻击路径：自动化脚本高频调用API ◦ 防护分析：网关侧累计计数器与速率限制 ◦ 3.4 案例复盘：间接注入与工具滥用 ◦ 攻击路径：通过上传文档或工具参数注入恶意指令 ◦ 防护分析：会话级风控与上下文感知 4. 大模型安全解决方案 ◦ 4.1 端侧防护 ◦ 技术栈：SDK嵌入客户端/移动端 ◦ 能力：本地关键词/黑名单拦截、DLP脱敏 ◦ 特点：毫秒级延迟、可离线运行、行为画像采集 ◦ 4.2 管侧防护 ◦ 技术栈：APISIX/Kong + Sidecar ◦ 能力：静态规则匹配、名单检查（IP/UID）、累计计数器（限流） ◦ 特点：流量必经之路、SSE流式输出审计、协议校验 ◦ 4.3 云侧防护 ◦ 技术栈：微服务+LLM推理 ◦ 能力：语义级检测（微调安全模型）、自定义策略终判 ◦ 能力：传统ML模型集成、多层信号合并 ◦ 4.4 统一控制与决策 ◦ 控制面：运营台与规则注册中心 ◦ 决策逻辑：Deny > Captcha > Review > Allow的优先级合并 5. 大模型安全业务架构 ◦ 5.1 整体架构设计 ◦ 架构图解：用户->端SDK->网关->云引擎->LLM ◦ 数据流：Header透传与Trace串联 ◦ 5.2 核心组件详解 ◦ 端侧核心：轻量级SDK，负责本地拦截与脱敏 ◦ 网关插件：Lua规则引擎，高性能过滤与流控 ◦ 云侧引擎：策略计算核心，负责语义检测与终判 ◦ 控制中心：规则全生命周期管理与发布 ◦ 5.3 规则编译与发布流 ◦ 编译器：规则DSL->各层可执行产物 ◦ 发布模式：dry_run（试运行）->canary（灰度）->full（全量） ◦ 存储后端：Redis（缓存/计数）+Database（规则元数据） 6. 大模型备案与合规体系 ◦ 6.1 备案政策与法规解读 ◦ 生成式人工智能服务管理暂行办法核心要求 ◦ 算法备案与安全评估的流程与标准 ◦ 6.2 备案技术要求落地 ◦ 安全检测能力：如何通过"语义识别+关键词"满足内容合规要求 ◦ 防沉迷与实名制：用户身份认证（Auth Mode）与未成年保护 ◦ 数据安全与隐私：训练数据来源合法性与个人信息保护（DLP） ◦ 6.3 合规运营与审计 ◦ 日志留存：全链路审计日志（输入/输出/决策）的存储与调取 ◦ 内容标识：生成内容的显式与隐式标识技术 ◦ 应急响应机制：针对违规内容的快速阻断与模型迭代流程 7. 未来趋势与安全建设规划 ◦ 7.1 生成式AI攻击对抗发展新趋势 ◦ 7.2 Agent、多智能体场景下安全防护演进方向 ◦ 7.3 自适应防御、AI驱动自动风控技术发展 ◦ 7.4 企业分阶段LLM安全落地实施规划 ◦ 7.5 安全左移：AI应用全生命周期安全嵌入方案 ◦ 7.6 常态化攻防运营与持续防护迭代机制 |
|
第三大模块：流量安全 1. 流量安全业务介绍 ◦ 1.1 网络流量分析在纵深防御体系中的核心价值与定位 ◦ 1.2 从传统边界防护到全流量感知安全范式的转移 ◦ 1.3 实时检测与全量溯源双引擎协同的业务价值 ◦ 1.4 合规监管要求与企业流量安全治理目标映射 2. 流量安全典型风险场景 ◦ 2.1 加密流量滥用与隐蔽信道通信风险 ◦ 2.2 API接口滥用、越权访问与数据爬取风险 ◦ 2.3 内网横向移动、C2通信与持久化驻留风险 ◦ 2.4 敏感数据传输泄露与隐私合规风险 ◦ 2.5 新型应用协议（SSE/WebSocket/gRPC）攻击面扩展 3. 流量安全三层攻击面 ◦ 3.1 流量安全三层攻击面定义、设计理念与防护闭环 ◦ 3.2 边界检测层：南北向流量入侵、异常访问、恶意请求风险 ◦ 3.3 传输交互层：七层业务载荷、加密流量、数据外溢风险 ◦ 3.4 全量取证层：日志缺失、无原始数据包、攻击无法溯源合规风险 4. 流量安全典型攻击案例 ◦ 4.1 加密C2隧道通信检测与溯源复盘 ◦ 4.2 API接口批量爬取与敏感数据泄露实录 ◦ 4.3 内网横向移动攻击链完整流量还原 ◦ 4.4 攻防演练中暴露的流量监测盲区总结 5. 流量安全合规治理 ◦ 5.1 网络安全法/数据安全法/个保法流量合规要求解读 ◦ 5.2 流量采集、存储、使用的合规边界界定 ◦ 5.3 敏感字段脱敏规范与日志留存周期合规配置 ◦ 5.4 合规审计材料准备与监管检查应对要点 ◦ 5.5 安全防护能力与合规审核指标的关联映射 6. 流量安全业务架构 ◦ 6.1 实时检测+全量溯源双引擎总体架构设计 ◦ 6.2 高性能数据包捕获与零拷贝技术实现 ◦ 6.3 深度协议解析与应用层元数据提取机制 ◦ 6.4 告警-会话联动自动化溯源闭环设计 ◦ 6.5 安全运营集成与应急响应流程实践 7. 流量安全评估与测试验证 ◦ 7.1 流量安全检测能力评测基准与指标体系 ◦ 7.2 流量回放测试与规则有效性验证方法 ◦ 7.3 误报率调优与检测覆盖率持续优化策略 8. 未来趋势与安全建设规划 ◦ 8.1 AI驱动的加密流量检测与异常行为分析演进 ◦ 8.2 eBPF/云原生流量采集技术发展与应用前景 ◦ 8.3 企业级流量安全建设路线图与阶段性里程碑 ◦ 8.4 安全左移：流量安全能力嵌入DevSecOps全流程 |
近期公开课推荐