一、培訓背景
隨著AI技術深度融入各行業,大模型、智能識別系統、AI供應鏈等面臨對抗樣本攻擊、數據泄露、模型劫持等新型安全風險。傳統安全防護手段已無法應對AI特有的攻擊路徑,亟需掌握AI安全攻防核心技能的專業人才。
本課程通過“理論+實驗+對抗”模式,系統性講解AI安全漏洞原理、攻擊手法及防御策略,覆蓋從模型開發到部署的全生命周期安全防護,幫助學員實現從“被動防御”到“主動對抗”的能力躍遷。
二、培訓對象
網絡安全專業人員、滲透測試人員、安全運維人員、安全顧問和管理人員、學生和研究人員、AI研發工程師、算法工程師、數據科學家、AI系統運維人員。
三、培訓收益
1、掌握AI安全核心漏洞:
深入理解大模型提示詞注入、梯度泄露、供應鏈攻擊等前沿風險。
2、攻防實戰能力提升:
通過實驗復現主流攻擊(如對抗樣本生成、模型逆向工程),設計針對性防御方案。
3、合規與隱私保護:
學習AI數據脫敏、聯邦學習、差分隱私等技術,滿足GDPR等法規要求。
4、 紅藍對抗思維:
通過分組演練,模擬真實場景下AI系統攻防對抗,提升應急響應能力。
四、培訓信息
培訓方式:
培訓采用線下專家面授+同步直播的形式。所有課程均贈送學習教材、視頻回放、
答疑交流群、促學服務等。并對考生提供專人報考、考試指導、證書郵寄等。多維度精
細化教學,一站式報考服務,滿足不同企業及學員的學習需求。
五、培訓內容
培訓共計3天,每天6小時,具體日程安排如下:
日程 | 主題 | 內容 |
第一天 AI安全基礎攻防 |
大模型提示詞漏洞攻防 | 理論:Prompt Injection分類(直接/間接/多模態) 實驗:構造惡意提示詞注入,觸發模型輸出敏感內容 實驗:多模態提示詞(文本+圖像)繞過OCR檢測 |
敏感信息泄露與防護 | 理論:模型元數據泄露原理(gguf/metadata解析) 案例:System Prompt Leakage復現 實驗:利用工具提取模型元數據 實驗:設計防護策略封堵泄露漏洞 |
|
第二天供應鏈漏洞與進階攻擊 | 大模型供應鏈漏洞分析 | 理論:供應鏈攻擊路徑(Ollama/Ray/Deepseek) 案例:開源框架未授權漏洞導致模型劫持 實驗:利用Ollama漏洞植入后門模型 實驗:Deepseek未授權訪問漏洞復現 |
梯度泄露與對抗防御 | 理論:梯度反推攻擊原理與數據逆向工程 案例:通過訓練梯度泄露用戶隱私數據 實驗:生成對抗樣本繞過AI檢測系統 實驗:設計梯度噪聲干擾防御方案 |
|
第三天綜合攻防與真實場景實戰 | RealWorld偽造攻擊 | 理論:DeepFace/DeepVoice偽造技術原理 案例:生成高仿真人臉/語音欺騙身份驗證系統 實驗:使用DeepFace生成虛假人臉 實驗:合成語音繞過聲紋識別系統 |
IoT與AI融合漏洞利用 | 理論:智能設備固件漏洞與AI模型聯動風險 案例:通過OCR漏洞劫持IoT設備控制權 |
|
紅藍對抗演練 | 綜合實驗:分組模擬攻擊鏈(如多模態注入+供應鏈投毒) 防御設計:制定全鏈路防護方案并驗證有效性 |
六、專家講師
高老師 | CTO/資深技術顧問/信息安全專家
近十年IT互聯網運維服務管理與信息安全領域研究與從業經驗,主要從事運維服務管理規劃、運維架構、自動化體系建立和實施、信息安全風險評估、信息安全管理體系建立和實施等方面工作,具備豐富的IT服務管理和信息安全管理咨詢實踐經驗,尤其在金融、運營商、政府行業有豐富的項目實施經驗。
目前主要專業領域集中于IT服務管理、IT風險管理與控制、信息安全等方面,曾服務的主要客戶有:中國金幣總公司、千方集團、行園汽車、德法利集團、中彩網等。
專業資質:
CISP 注冊信息安全專業人員—系國家對信息安全人員資質的最高認可
CISP-PTE 注冊信息安全專業人員—滲透測試工程師
ISO27001 Foundation 國際信息安全管理體系標準
ITLE 信息技術基礎架構庫認證—項目管理專家
OSTA 全國計算機信息高新技術人員
七、相關證書
參加培訓并通過考試學員,由中國信息化培訓中心頒發《AI安全攻防專家》職業技能培訓證書。該證書可作為專業技術人員職業能力考核的證明,以及專業技術人員崗位聘用、任職、定級和晉升職務的重要依據。