人工智能安全认证专家CAISP 8月正式上线！首期公开课开始报名!
生成式人工智能、大模型等人工智能技术已然引爆了全球AI 安全热战，人工智能产业、网络安全产业、各行各业应该如何应对？
在企业战略中，人工智能已成为推动创新和增长的核心力量。然而，随着AI技术的深入应用，确保其系统的安全性、可靠性和伦理合规性变得尤为关键。安全是确保人工智能可持续发展的必要条件。当前，对AI安全专家的需求日益增长，特别是既精通AI技术原理，又熟悉安全策略、数据隐私保护及伦理法规的复合型人才。
为了满足这一需求，云安全联盟大中华区推出人工智能安全认证专家（Certified Artificial Intelligence Security Professional，CAISP）培训与认证计划。首期公开课将于8月初正式开课，课程全面覆盖 AI 安全领域，针对研究、管理、运营、开发及网络安全等多个领域的从业人员，提供一套综合的课程体系，包括AI安全的基础理论、技术实践、案例分析以及全球视野下的法规治理等内容。
CAISP课程对象
安全研究员、合规与风险管理专员、AI安全工程师、AI工程师与开发者、政策制定者和监管机构、网络安全从业者、AI行业从业人员、在校学生、AI应用终端用户。
CAISP课程目标
本次公开课聚焦AI安全领域人才培养，直击行业人才短缺及安全挑战：
- 跨领域AI安全专家孵化：结合技术、法律、伦理、管理和技术应用，全方位提升AI安全综合治理能力。
- 国际化安全标准倡导：结合全球AI安全标准和法规，培养国际视野，确保企业合规性。
- 实战与合规并举：通过实际案例和实践指导，提升解决AI安全实际问题的能力。
CAISP公开课课程内容
1
基础篇
- AI与AI安全基本概念
- AI与安全衍生
- 技术发展脉络
2
技术篇
- 常见AI算法与模型介绍
- AI模型与算法安全分析
- 数据隐私保护与安全措施
3
法规治理与道德伦理篇
- 国内外AI安全法律法规、标准规范分析
- AI安全治理框架
- AI伦理道德挑战与分析
- 典型场景下的AI伦理道德风险
4
安全风险篇
- 大模型安全风险概述
- 典型攻击与应对策略：提示攻击、对抗攻击、梯度泄露攻击、推理攻击、模型萃取攻击、供应链攻击、应对策略
- 防御机制解析
5
安全管理篇
- DevSecOps与AI
- AI安全需求分析与设计
- 安全的AI系统开发指南与实践
- AI安全测评框架应用
- AI渗透测试技术与方法
- AI安全运营保障体系建设
6
标准与评估篇
- AI安全框架
- AI成熟度模型应用与评估
- AI安全标准与测评认证实践
7
特别篇ChatGPT的安全影响
- 恶意行为者利用LLM的安全分析
- 防御者如何将LLM应用于网络安全
- 恶意提示词攻击的防范措施
- 企业安全使用ChatGPT的最佳实践
8
实践案例篇
- 现实世界中的AI安全问题深度分析
- AI安全解决方案制定与应对策略
- 关键领域的AI安全最佳实践案例
- 行业大模型应用及安全实践案例
CAISP培养关键能力
核心知识与技能构建：培养学员在AI安全领域的扎实基础，确保其能有效应对现代数字化安全挑战。掌握识别并防御各类安全威胁，特别是应对对抗性攻击的能力。
AI算法与模型安全精通：深入理解AI常用算法和模型及其安全性，强化防范对抗性攻击的技巧，实施有效防御措施，确保数据安全免受泄露。
大模型安全风险管理：掌握大型AI模型的安全漏洞识别、应对策略与管理，提升对各类攻击的防御能力以及系统性评估AI安全威胁能力。
AI安全法规与安全治理：全面掌握国内外AI安全相关的政策法规与标准规范及AI安全治理体系，掌握AI安全治理的方法论、整体体系架构及各模块能力，全面提升学员对AI安全治理的能力。
DevSecOps与AI集成安全：融合DevSecOps原则于AI开发流程，熟练运用DevSecOps框架于AI项目中，提升开发环境中的安全实践水平，确保AI应用的安全集成与维护。
全生命周期AI安全管理：掌握AI应用从需求设计到测试部署的全周期安全管理，设计安全的AI系统，执行渗透测试，强化企业AI安全实施能力。
大语言模型安全实践：安全实施和管理大语言模型，专攻大语言模型（LLM）的安全应用，识别并抵御未来安全威胁，提升防御恶意利用的能力，增强风险应对策略。
AI安全成熟度提升：运用AI安全成熟度模型，掌握评估与提升AI安全成熟度的方法，依据测评结果实施改进策略，全面评估并优化系统安全性能。
ChatGPT安全最佳实践：掌握ChatGPT安全使用策略，在企业中安全高效地利用ChatGPT，制定并执行安全操作规范，确保技术应用的合规与安全。
政策法规与伦理道德：熟悉相关政策法规，识别伦理风险，应用有效的治理机制，增强学员对国内外AI安全政策、法规及伦理道德的理解。
CAISP公开课信息
上课时间：8月3日、4日（周六、周日）、10日（周六）
上课形式：线上授课
课程费用：
培训费：4500元人民币；7月22日前早鸟价3599元人民币（不含认证费）
灯塔计划：在校学生599元人民币（适用于在校大专生、本科生、硕士生、博士生，含2024年应届毕业生）。