第1章 概述 1
1.1 人工智能的發展、應用及其安全性 1
1.1.1 人工智能的發展 1
1.1.2 人工智能的應用 4
1.1.3 人工智能帶來的安全問題 6
1.2 人工智能安全的范疇 9
1.2.1 人工智能安全的范疇與特征 9
1.2.2 人工智能安全的分類 12
1.3 人工智能安全治理 18
1.3.1 人工智能安全與技術標準 22
1.3.2 人工智能安全與法律 23
1.3.3 人工智能安全倫理道德 24
1.3.4 人工智能安全評估評測 24
1.4 本章小結 24
參考文獻 25
本章執筆人 29
第2章 可信計算保障人工智能安全 30
2.1 可信計算技術 30
2.1.1 可信計算簡介 30
2.1.2 可信計算相關技術 31
2.1.3 可信計算標準體系 35
2.2 基于可信計算構建安全可信的人工智能計算環境 36
2.2.1 人工智能系統啟動環境度量保護 37
2.2.2 人工智能系統運行環境度量保護 40
2.2.3 人工智能計算環境可信報告 44
2.2.4 人工智能數據可信存儲 45
2.2.5 人工智能系統可信審計 48
2.3 基于可信計算實現人工智能數據可信交互 50
2.3.1 人工智能數據可信交互連接架構 50
2.3.2 人工智能數據可信交互過程 53
2.4 本章小結 54
參考文獻 54
本章執筆人 55
第3章 無人系統安全 56
3.1 無人駕駛安全 56
3.1.1 無人駕駛安全研究概述 56
3.1.2 現狀與發展趨勢 58
3.1.3 研究內容 60
3.1.4 我國無人駕駛的人工智能安全方案和風險應對策略 73
3.2 多無人系統協同 76
3.2.1 發展方向與進展 76
3.2.2 安全要素分析 78
3.2.3 技術保障措施 88
3.3 本章小結 91
參考文獻 91
本章執筆人 94
第4章 基于類腦計算的強人工智能及其安全 95
4.1 概念界定及其技術實現途徑 95
4.1.1 相關基本概念 95
4.1.2 關于強人工智能發展與實現的觀點 98
4.1.3 基于類腦計算的強人工智能 99
4.2 時間預測及潛在安全問題分析 104
4.2.1 發展階段預測 104
4.2.2 時間點預測 109
4.2.3 理論及技術研究階段的潛在安全問題 113
4.2.4 應用階段的潛在安全問題 116
4.3 安全風險對策與風險預防策略研究 118
4.3.1 安全風險評估及風險對策研究 118
4.3.2 理論及技術研究階段的風險預防策略 121
4.3.3 應用階段的風險預防策略研究 126
4.4 本章小結 128
參考文獻 129
本章執筆人 133
第5章 智能制造和智能城市中的人工智能應用安全 134
5.1 智能制造中的人工智能應用安全 134
5.1.1 發展現狀 135
5.1.2 應用場景 143
5.1.3 安全風險分析 145
5.1.4 安全技術體系 150
5.1.5 重點產業與應用發展方向 150
5.2 智能城市中的人工智能應用安全 152
5.2.1 發展現狀 152
5.2.2 應用場景 157
5.2.3 安全風險分析 160
5.2.4 安全技術體系 163
5.2.5 重點產業與應用發展方向 163
5.3 本章小結 165
參考文獻 165
本章執筆人 167
第6章 網絡安全 168
6.1 概述 168
6.2 應用現狀與趨勢 169
6.2.1 在網絡攻擊中的應用 169
6.2.2 在網絡防御中的應用 176
6.3 應用引發的安全問題與應對 187
6.3.1 應用引發的安全問題與應對措施綜述 187
6.3.2 對抗樣本問題 190
6.3.3 對抗樣本問題的應對措施 191
6.4 值得深入研究的內容 193
6.4.1 基于人工智能技術的網絡攻擊 194
6.4.2 基于人工智能技術的網絡防御 195
6.4.3 針對人工智能技術的網絡攻擊 195
6.4.4 針對人工智能技術的網絡防御 197
6.5 本章小結 198
參考文獻 199
本章執筆人 204
第7章 人工智能安全可控的產業生態建設 205
7.1 安全可控的產業生態建設的概念與內涵 205
7.2 我國人工智能安全可控水平分析 206
7.2.1 國內外人工智能應用技術發展研究 206
7.2.2 我國人工智能安全可控需要解決的主要問題 221
7.3 我國人工智能產業生態建設現狀分析 228
7.3.1 人工智能產業生態現狀分析 229
7.3.2 我國人工智能產業生態建設存在的主要問題 232
7.4 我國人工智能安全可控與產業生態建設 233
7.4.1 人工智能產業生態建設與安全可控水平的關系 233
7.4.2 我國安全可控的人工智能軟硬件發展目標 234
7.4.3 我國安全可控的人工智能產業生態發展目標 234
7.4.4 我國IT產業發展對安全可控的人工智能產業生態建設的
啟示 235
7.5 建設安全可控的人工智能產業生態的措施 236
7.5.1 加強對人工智能安全可控發展的頂層設計 236
7.5.2 加強人工智能應用技術的安全可控能力 237
7.5.3 強化安全可控的人工智能產業生態建設 238
7.5.4 人工智能應用產業鏈要素安全可控 239
7.6 本章小結 241
參考文獻 241
本章執筆人 242
第8章 人工智能安全標準與風險評估預警 243
8.1 人工智能安全標準 243
8.1.1 人工智能安全標準的理論和實踐意義 243
8.1.2 人工智能安全標準研制概況 244
8.1.3 ISO/IEC JTC1人工智能技術安全相關標準 248
8.1.4 ITU-T人工智能應用安全相關標準 249
8.1.5 IEEE人工智能倫理道德安全相關標準 249
8.1.6 NIST組織研制人工智能安全相關標準 251
8.1.7 我國的人工智能安全標準 251
8.1.8 基于模塊劃分的人工智能安全標準體系分類 254
8.2 人工智能安全風險評估 264
8.2.1 風險評估的概念 264
8.2.2 人工智能安全風險評估原則、流程與方法 265
8.2.3 人工智能安全風險評估指標體系構建 267
8.3 人工智能安全風險預警 278
8.3.1 人工智能安全風險預警方法 278
8.3.2 安全風險預警等級劃分及閾值確定 280
8.4 本章小結 281
參考文獻 281
本章執筆人 282
第9章 人工智能法律倫理 283
9.1 人工智能倫理 283
9.2 強人工智能倫理 290
9.2.1 人工智能的倫理風險與治理現狀 291
9.2.2 強人工智能的倫理風險 294
9.2.3 強人工智能體的倫理身份與新型倫理關系 302
9.2.4 向善的強人工智能——優化共生設計 307
9.2.5 強人工智能倫理治理的初步思考 309
9.3 人工智能法律治理 310
9.3.1 人工智能應用引發的法律問題 310
9.3.2 人工智能法律治理原則、機制與規律 312
9.4 本章小結 317
參考文獻 318
本章執筆人 319