CAISP人工智能安全认证专家

云安全联盟大中华区推出人工智能安全认证专家（Certified Artificial Intelligence  Security Professional，CAISP）培训与认证计划。课程全面覆盖 AI 安全领域，针对研究、管理、运营、开发及网络安全等多个领域的从业人员，提供一套综合的课程体系，包括AI安全的基础理论、技术实践、案例分析以及全球视野下的法规治理等内容。

CAISP课程对象

安全研究员、合规与风险管理专员、AI安全工程师、AI工程师与开发者、政策制定者和监管机构、网络安全从业者、AI行业从业人员、在校学生、AI应用终端用户。

CAISP课程目标

本次公开课聚焦AI安全领域人才培养，直击行业人才短缺及安全挑战：

• 跨领域AI安全专家孵化：结合技术、法律、伦理、管理和技术应用，全方位提升AI安全综合治理能力。
• 国际化安全标准倡导：结合全球AI安全标准和法规，培养国际视野，确保企业合规性。
• 实战与合规并举：通过实际案例和实践指导，提升解决AI安全实际问题的能力。

CAISP课课程内容

基础篇

• AI与AI安全基本概念
• AI与安全衍生
• 技术发展脉络

技术篇

• 常见AI算法与模型介绍
• AI模型与算法安全分析
• 数据隐私保护与安全措施

法规治理与道德伦理篇

• 国内外AI安全法律法规、标准规范分析
• AI安全治理框架
• AI伦理道德挑战与分析
• 典型场景下的AI伦理道德风险

安全风险篇

• 大模型安全风险概述
• 典型攻击与应对策略：提示攻击、对抗攻击、梯度泄露攻击、推理攻击、模型萃取攻击、供应链攻击、应对策略
• 防御机制解析

安全管理篇

• DevSecOps与AI
• AI安全需求分析与设计
• 安全的AI系统开发指南与实践
• AI安全测评框架应用
• AI渗透测试技术与方法
• AI安全运营保障体系建设

标准与评估篇

• AI安全框架
• AI成熟度模型应用与评估
• AI安全标准与测评认证实践

特别篇ChatGPT的安全影响 

• 恶意行为者利用LLM的安全分析
• 防御者如何将LLM应用于网络安全
• 恶意提示词攻击的防范措施
• 企业安全使用ChatGPT的最佳实践

实践案例篇

• 现实世界中的AI安全问题深度分析
• AI安全解决方案制定与应对策略
• 关键领域的AI安全最佳实践案例
• 行业大模型应用及安全实践案例

CAISP培养关键能力

核心知识与技能构建：培养学员在AI安全领域的扎实基础，确保其能有效应对现代数字化安全挑战。掌握识别并防御各类安全威胁，特别是应对对抗性攻击的能力。

AI算法与模型安全精通：深入理解AI常用算法和模型及其安全性，强化防范对抗性攻击的技巧，实施有效防御措施，确保数据安全免受泄露。

大模型安全风险管理：掌握大型AI模型的安全漏洞识别、应对策略与管理，提升对各类攻击的防御能力以及系统性评估AI安全威胁能力。

AI安全法规与安全治理：全面掌握国内外AI安全相关的政策法规与标准规范及AI安全治理体系，掌握AI安全治理的方法论、整体体系架构及各模块能力，全面提升学员对AI安全治理的能力。

DevSecOps与AI集成安全：融合DevSecOps原则于AI开发流程，熟练运用DevSecOps框架于AI项目中，提升开发环境中的安全实践水平，确保AI应用的安全集成与维护。

全生命周期AI安全管理：掌握AI应用从需求设计到测试部署的全周期安全管理，设计安全的AI系统，执行渗透测试，强化企业AI安全实施能力。

大语言模型安全实践：安全实施和管理大语言模型，专攻大语言模型（LLM）的安全应用，识别并抵御未来安全威胁，提升防御恶意利用的能力，增强风险应对策略。

AI安全成熟度提升：运用AI安全成熟度模型，掌握评估与提升AI安全成熟度的方法，依据测评结果实施改进策略，全面评估并优化系统安全性能。

ChatGPT安全最佳实践：掌握ChatGPT安全使用策略，在企业中安全高效地利用ChatGPT，制定并执行安全操作规范，确保技术应用的合规与安全。

政策法规与伦理道德：熟悉相关政策法规，识别伦理风险，应用有效的治理机制，增强学员对国内外AI安全政策、法规及伦理道德的理解。

CAISP培训

上课形式：线上授课

培训费：4500元人民币；