AI STR安全、可信、负责任论坛将于2月27日香港召开

2025年2月10-11日,由法国政府主办、印度政府协办的第三届全球人工智能行动峰会(AI Action Summit 2025)将在巴黎举行。本次峰会汇聚了近100个国家领导人就人工智能的安全发展达成共识,中国国家主席习近平特别代表、中共中央政治局委员、国务院副总理张国清确认出席人工智能行动峰会。

作为AI Action Summit 在香港的分会场, 人工智能安全、可信与负责任论坛(AI STR论坛)将在香港数码港召开!这场由世界数字科学院、国际院士科创中心、香港数码港联合主办,CSA大中华区、香港投资推广署、香港网络安全专业协会等单位支持的盛会,汇聚国内外院士、科技巨头高管、国际组织代表,直面ChatGPT、Sora、DeepSeek等大模型引发的安全争议,探讨AI时代如何平衡技术创新与安全风险,推动产业安全落地。

以下是AI STR论坛的精彩亮点:

AI安全与应用创新

从金融风控到数据隐私,从网络安全到伦理治理,论坛将聚焦AI在各行业的安全挑战与解决方案,探讨从实验室技术到产业落地的关键路径。

DeepSeek的技术实践将作为典型案例,嘉宾将围绕大模型的安全可信应用,从内生安全优化、应用安全防御、衍生安全监控等方面分享实践经验,探索如何提升大模型的安全性、鲁棒性与可控性,为行业提供可借鉴的安全方案。

AI发展与风险平衡

在DeepSeek等大模型快速演进的背景下,如何在推动技术创新的同时有效管理潜在风险,已成为全球关注的焦点。本次论坛设置圆桌讨论,邀请中国联通国际、中国光大银行香港分行、新世界集团、香港警务处、百度证券、个人资料私隐专员公署、香港科技大学等嘉宾共同探讨:

  • 产业升级与合规发展:生成式AI如何在确保合规的前提下,为产业升级赋能,同时避免触碰伦理与安全红线?
  • 伦理边界的界定:DeepSeek等先进AI技术的发展边界在哪里?如何在技术突破与伦理责任之间找到平衡?
  • 全球协作共建安全防线:面对AI技术带来的安全挑战,各国如何加强合作,共同构建稳健的AI安全治理体系?

全球AI新进展:全球布局、测评认证与人才培养

揭牌WDTA世界数字科学院亚太研究院(筹):国际组织WDTA将在香港筹建亚太研究院,汇聚全球专家,推动AI技术创新与安全研究,为亚太地区的AI治理、标准制定和产业实践提供支撑。

颁发AI STR认证证书:WDTA于2024年9月在纽约联合国总部未来峰会发布了AI STR认证,AI STR认证通过制定一系列国际标准,确保AI开发和应用符合全球安全与合规要求,为全球AI治理提供了可靠的框架和工具,本次论坛将对通过AI STR测评的单位,颁发认证证书。

发布大模型应用认证培训项目:论坛上将推出大模型应用认证培训项目,针对大模型技术的应用、安全和合规需求,构建系统化的培训体系,帮助行业从业者掌握大模型的安全开发、应用与治理能力,推动产业健康发展。

《数字技术360度》新书签售与分享

在AI STR论坛期间,封面作者李雨航将在现场签售新书《数字技术360度》,该书于2025年2月5日在纽约联合国伙伴关系论坛上正式发布,受到联合国高层及各国领导人的高度评价。

《数字技术360度》是一本全面探索尖端技术的权威著作,涵盖人工智能、数据、物联网、5G/6G、元宇宙以及量子计算等前沿领域。

虽然在论坛上将推出大模型应用认证培训项目,而早之前由CSA(云计算安全联盟)推出的人工智能安全认证专家课程备受瞩目。该课程内容全面覆盖技术细节、政策法规以及安全标准,并通过丰富的实践案例分析,确保学员能够深入掌握人工智能安全领域的专业知识。

CAISP

人工智能安全认证专家

CAISP认证由云安全联盟大中华区发布,是全面覆盖AI安全领域的培训认证项目,从技术、法律、道德与伦理等多方面,提升AI安全综合治理能力;通过实际案例和实践指导,提升解决AI安全实际问题的能力。

承制CAISP培训班

在2024年9月1日,由CSA官方举办的CAISP培训已有74位学员获得CAISP认证,成为中国首批CAISP持证专家。

承制科技作为CSA授权培训机构,在11月30日也成功举办了承制首期CAISP认证培训班,并且有不少学员已经申请并通过考试。

承制将继续提升CAISP教学服务质量,并预计在3月举办下一期CAISP直播培训班,现在报名可开通录播、习题供您提前预习。

CAISP学习对象

  • AI行业相关人员:AI工程师与开发者、AI安全工程师、AI应用终端用户;
  • 安全相关人员:安全研究员、合规与风险管理专员、网络安全从业者;
  • 其他:政策制定者和监管机构、科技管理者、在校学生

CAISP公开课课程内容

模块培训内容
AI安全概述篇AI与AI安全基本概念AI与安全衍生技术发展脉络
技术基础篇常见AI算法与模型介绍AI模型与算法安全性分析数据隐私保护与安全措施
安全风险篇大模型安全风险概述典型攻击与应对策略:提示攻击、对抗攻击、梯度泄露攻击、推理攻击、模型萃取攻击、供应链攻击、应对策略防御机制解析
政策与治理篇国内外AI安全法律法规、标准规范分析AI安全治理框架
全生命周期管理篇DevSecOps与AIAI安全需求分析与设计安全的AI系统开发指南与实践AI安全测评框架应用AI渗透测试技术与方法AI安全运营保障体系建设
标准与评估篇AI安全框架AI成熟度模型应用与评估AI安全标准与测评认证实践
特别篇ChatGPT的安全影响恶意行为者利用LLM的安全分析 防御者如何将LLM应用于网络安全恶意提示词攻击的防范措施 企业安全使用ChatGPT的最佳实践
实践案例篇现实世界中的AI安全问题深度分析解决方案制定与应对策略关键领域的AI安全最佳实践案例行业大模型应用及安全实践案例
伦理与未来发展AI伦理道德挑战与分析典型场景下的AI伦理道德风险未来发展趋势
考前串讲考前要点讲解与考前练习

CAISP证书样例

上一篇
下一篇