課程介紹
云安全聯(lián)盟CSA大中華區(qū)推出人工智能安全認證專家（Certified Artificial Intelligence Security Professional，CAISP）培訓(xùn)課程，本課程專注于理解人工智能安全的治理與管理環(huán)境，學(xué)習(xí)AI安全的術(shù)語與安全目標(biāo)、針對于算法、模型以及數(shù)據(jù)安全和隱私進行學(xué)習(xí)，全面提升對AI安全風(fēng)險的識別、評估與測評等實戰(zhàn)化能力；課程還涵蓋了AI安全的國內(nèi)與國外的法律法規(guī)框架，并通過實際案例，探討如何在組織中實施AI安全。此外，學(xué)員還將具體學(xué)習(xí)如何應(yīng)對AI安全的風(fēng)險與挑戰(zhàn)，包括應(yīng)對數(shù)據(jù)投毒、對抗性攻擊和供應(yīng)鏈威脅等多種安全挑戰(zhàn)。
培訓(xùn)對象
AI行業(yè)相關(guān)人員：AI工程師與開發(fā)者、AI安全工程師、AI應(yīng)用的終端用戶；
安全相關(guān)人員：安全研究員、合規(guī)與風(fēng)險管理科技工作者、網(wǎng)絡(luò)安全從業(yè)者;
其他：政策制定者和監(jiān)管機構(gòu)人員、數(shù)字化轉(zhuǎn)型工作人員、理工類師生。
課程收益
核心知識與技能構(gòu)建；
AI算法與模型安全精通；
大模型安全風(fēng)險管理；
AI安全法規(guī)與安全治理；
DevSecOps與AI集成安全；
全生命周期AI安全管理；
大語言模型安全實踐；
AI安全成熟度提升；
ChatGPT安全最佳實踐；
政策法規(guī)與倫理道德。
知識概要
-- AI安全概述篇；
-- 技術(shù)基礎(chǔ)篇；
-- 安全風(fēng)險篇；
-- 政策與治理篇；
-- 全生命周期管理篇；
-- 標(biāo)準(zhǔn)與評估篇；
-- 特別篇ChatGPT的安全影響；
-- 實踐案例篇；
-- 倫理與未來發(fā)展篇。
課程大綱
AI安全概述篇
AI與AI安全基本概念
AI與安全衍生
技術(shù)發(fā)展脈絡(luò)
技術(shù)基礎(chǔ)篇
常見AI算法與模型介紹
AI模型與算法安全性分析
數(shù)據(jù)隱私保護與安全措施
安全風(fēng)險篇
大模型安全風(fēng)險概述
典型攻擊與應(yīng)對策略：提示攻擊、對抗攻擊、梯度泄露攻擊、推理攻擊、模型萃取攻擊、供應(yīng)鏈攻擊、應(yīng)對策略
防御機制解析
政策與治理篇
國內(nèi)外AI安全法律法規(guī)、標(biāo)準(zhǔn)規(guī)范分析
AI安全治理框架
全生命周期管理篇
DevSecOps與AI
AI安全需求分析與設(shè)計
安全的AI系統(tǒng)開發(fā)指南與實踐
AI安全測評框架應(yīng)用
AI滲透測試技術(shù)與方法
AI安全運營保障體系建設(shè)
標(biāo)準(zhǔn)與評估篇
AI安全框架
AI成熟度模型應(yīng)用與評估
AI安全標(biāo)準(zhǔn)與測評認證實踐
特別篇ChatGPT的安全影響
惡意行為者利用LLM的安全分析
防御者如何將LLM應(yīng)用于網(wǎng)絡(luò)安全
惡意提示詞攻擊的防范措施
企業(yè)安全使用ChatGPT的最佳實踐
實踐案例篇
現(xiàn)實世界中的AI安全問題深度分析
解決方案制定與應(yīng)對策略
關(guān)鍵領(lǐng)域的AI安全最佳實踐案例
行業(yè)大模型應(yīng)用及安全實踐案
倫理與未來發(fā)展篇
AI倫理道德挑戰(zhàn)與分析
典型場景下的AI倫理道德風(fēng)險
認證過程
考試入口：https://exam.c-csa.cn 線上考試；
考試方式：限時考試，90分鐘內(nèi)完成60道題，題型為單選和多選題；
證書獲取：考生獲得70%以上的成績?yōu)橥ㄟ^考試，通過后系統(tǒng)生成考試證書。
開班信息
暫無開班信息