內容豐富

涵蓋機器學習算法和深度學習算法，詳細講述算法的原理和應用案例。

結合實踐

匯集人工智能領域專家和學者的理論研究和應用實踐的經驗與成果。

配套代碼

每個應用案例都細致講解，并有實現代碼與之對應，便于理解和掌握。

前　　言

人工智能技術是引領未來的前沿性、戰略性技術。黨中央、國務院高度重視新一代人工智能的發展，將其列為國家發展戰略，積極推動人工智能發展及應用。目前，人工智能已初步具備大規模實施的條件：首先，物聯網及通信技術為海量數據的采集提供了感知和傳輸手段，使得人工智能變成“有米之炊”；其次，各種計算技術與計算設施的快速發展為算力賦能，使得大規模、多維度、高復雜計算成為可能。“萬事俱備，只欠東風”，有利于人工智能發展的條件逐漸成熟，算法的功能和實現成為人工智能必須面對的核心問題之一。隨著人工智能向社會各個領域加速滲透，新的算法技術層出不窮，圖像識別、機器翻譯等智能任務水平趨近人類，這其中的機器學習、深度學習等技術已成為人工智能發展的核心驅動力。

本書由人工智能相關領域的專家、學者編寫，他們結合各自多年的理論研究和應用實踐，從人工智能關鍵技術、算法原理、典型案例等方面按層次逐步展開，對人工智能典型算法進行原理介紹、技術分析和應用模擬。本書分為四大部分：基礎知識、監督式學習算法、無監督式學習算法、深度學習算法，共17章。

第1章闡述了人工智能的發展背景、定義以及關鍵技術等，并對人工智能技術的相關應用進行了深入分析。

第2章介紹了人工智能算法的實驗環境，對Python環境安裝與配置、可視化庫以及深度學習算法實驗環境TensorFlow框架的搭建進行了詳細介紹。

第3章介紹了線性回歸算法，包括線性回歸模型、一元線性回歸算法、多元線性回歸算法，以及梯度下降求解線性回歸模型，最后將該算法應用到“波士頓房價預測”案例中。

第4章介紹了邏輯回歸算法，主要介紹了算法的定義和原理，包括算法流程、假設函數、代價函數、梯度下降法以及決策邊界，最后將該算法應用到“判斷是否為惡性腫瘤”案例中。

第5章介紹了支持向量機，包括算法的基本概念和原理，并將該算法應用到“手寫體數字識別”案例中。

第6章介紹了K近鄰算法，主要介紹了算法的基本概念和原理，包括算法計算步驟、K值的選取、距離函數的確定，最后將該算法應用到“約會網站配對與預測簽到位置”案例中。

第7章介紹了決策樹，主要介紹了算法的基本概念、決策樹的生成以及決策過程，并引出決策樹的原理，最后將該算法應用到“借貸人狀態評估”案例中。

第8章介紹了樸素貝葉斯算法，主要介紹了算法的相關概念、理論基礎和原理，包括算法流程、實例分析等，并用樸素貝葉斯算法實現輿情判別。

第9章介紹了集成學習算法，主要介紹了算法的基本概念和原理，進而引出AdaBoost、Bagging和隨機森林算法，最后將該算法應用到“垃圾郵件分類應用”案例中。

第10章介紹了主成分分析算法，主要介紹了算法相關概念和基本原理，最后運用該算法實現對鳶尾花數據的降維。

第11章介紹了K-Means算法，主要介紹了算法基本原理、算法流程、算法描述以及核心代碼，最后將該算法應用到“鳶尾花聚類分析”案例中。

第12章介紹了EM算法，首先介紹了最大似然法，提出含有隱變量的參數估計問題，引入EM算法概念；其次對算法的原理推導以及步驟進行說明；再次利用EM算法實現求解高斯混合模型參數，最后將該算法應用于“求解男性身高和女性身高的分布參數”案例中。

第13章介紹了BP神經網絡，主要介紹了神經網絡的基礎知識、BP神經網絡的相關概念以及基本原理，包括正向傳播、反向傳播等概念，然后通過代碼實現一個三層BP神經網絡預測模型，最后將該算法應用于“天氣溫度預測”案例中。

第14章介紹了循環神經網絡，主要介紹了RNN算法的基本概念和網絡結構、循環神經網絡結構變體，然后應用該算法實現飛機乘客的預測，最后介紹了對循環神經網絡進行改進的模型。

第15章介紹了卷積神經網絡，主要介紹了CNN算法的起源與應用、結構特點以及核心概念，然后介紹了構造卷積神經網絡的方法，最后應用卷積神經網絡對Cifar10數據集進行圖像分類。

第16章介紹了LSTM神經網絡，主要介紹了LSTM算法的基本概念與基本原理，并使用LSTM算法實現股票價格預測。

第17章介紹了生成對抗網絡，主要介紹了GAN算法的相關概念、算法原理，包括算法過程、具體操作、目標函數的優化以及GAN算法的改進，然后列舉了生成對抗網絡在各領域的應用，最后將該算法應用于“擬合二次函數與圖片生成”案例中。

本書由梁琨、張翼英任主編，梁琨負責組織編寫，并對全書進行修改和審校；張翼英參與部分章節編寫，并對全書進行了審校。

本書第1章由梁琨、任依夢編寫；第2章由梁琨、周保先編寫；第3章由梁琨、翟俊武編寫；第4章由張翼英、何業慎、李英卓編寫；第5章由梁琨、王聰、李曉航編寫；第6章由梁琨、任依夢編寫；第7章由梁琨、柳依陽編寫；第8章由梁琨、王德龍編寫；第9、10章由梁琨、張亞男、劉晶晶編寫；第11章由梁琨、張楠編寫；第12章由張翼英、韓龍哲、王鵬凱編寫；第13章由梁琨、尚靜編寫；第14章由梁琨、羅劍編寫；第15章由張翼英、于文平、周保先編寫；第16章由張翼英、馬彩霞編寫；第17章由梁琨、王聰、李蘇編寫。天津科技大學人工智能學院田宇宸、王煉、李可欣、臺耀強、劉瀚中、喬子驁、賈仁杰、葉子、張子豪、劉豐華、焦偉康等同學參與各章算法的代碼編輯與調試工作。

本書編寫過程中獲得了眾多專家的指導和幫助，朱冰鴻、尤平午、劉娟等專家在成稿過程中提出了諸多建設性意見，在此一并致謝。感謝天津開發區沃思電子商務有限公司提供的技術支持，同時，感謝中國水利水電出版社萬水分社副社長石永峰的指導與幫助。

希望本書能夠對關心人工智能技術和產業發展的高校師生和愛好者，以及相關各領域的從業人員等讀者群都能有所裨益，并為我國人工智能產業發展添磚加瓦。由于編者水平及時間所限，各位編者寫作風格各異，書中難免會有局限和諸多不足之處，歡迎廣大專家和讀者不吝指正。

編　者

2021年9月

第一部分　基礎知識
第1章　人工智能與算法概述 2
1.1　人工智能 2
1.1.1　人工智能的概念 2
1.1.2　人工智能的發展 4
1.1.3　人工智能的應用 9
1.2　AI算法簡介 16
1.2.1　算法定義 16
1.2.2　AI算法定義 16
1.2.3　AI算法分類 17
1.3　人工智能與算法的關系 20
1.4　算法在人工智能中的應用 21
1.5　本章習題 22
第2章　AI算法實驗環境簡介 23
2.1　Python環境安裝與配置 23
2.2　Python可視化庫 23
2.2.1　可視化庫簡介 24
2.2.2　matplotlib的基本元素和常用方法 26
2.2.3　matplotlib繪圖 28
2.3　深度學習算法實驗環境簡介 33
2.4　TensorFlow框架搭建 33
2.5　本章習題 34
第二部分　監督式學習算法
第3章　線性回歸算法 36
3.1　算法概述 36
3.2　算法原理 37
3.2.1　線性回歸模型 37
3.2.2　一元線性回歸算法 37
3.2.3　多元線性回歸算法 39
3.2.4　梯度下降求解線性回歸模型 40
3.3　算法案例：波士頓房價預測 44
3.4　算法總結 47
3.5　本章習題 48
第4章　邏輯回歸算法 49
4.1　算法概述 49
4.1.1　什么是邏輯回歸 49
4.1.2　邏輯回歸對比線性回歸 50
4.1.3　算法引入 50
4.2　算法原理 51
4.2.1　算法流程 51
4.2.2　假設函數 51
4.2.3　代價函數 52
4.2.4　梯度下降法 53
4.2.5　決策邊界 53
4.3　算法案例：判斷是否為惡性腫瘤 54
4.4　算法總結 57
4.5　本章習題 57
第5章　支持向量機 58
5.1　算法概述 58
5.2　算法原理 58
5.2.1　線性可分支持向量機介紹 58
5.2.2　拉格朗日乘子法 61
5.2.3　對偶問題和KKT條件 62
5.2.4　SMO算法原理 63
5.2.5　非線性支持向量機 64
5.2.6　線性支持向量機 65
5.3　算法案例：手寫體數字識別 66
5.4　算法總結 70
5.5　本章習題 70
第6章　K近鄰算法 72
6.1　算法概述 72
6.2　算法原理 73
6.2.1　算法計算步驟 73
6.2.2　K值的選取 73
6.2.3　確定距離函數 74
6.3　算法案例：約會網站配對與預測簽到位置 75
6.3.1　約會網站配對案例 75
6.3.2　預測簽到位置案例 81
6.4　算法總結 82
6.5　本章習題 83
第7章　決策樹 84
7.1　算法概述 84
7.1.1　什么是決策樹 84
7.1.2　如何生成一棵決策樹 85
7.1.3　決策過程 86
7.2　算法原理 86
7.2.1　信息增益 87
7.2.2　信息增益比 90
7.2.3　基尼（Gini）指數 91
7.2.4　決策樹的生成 91
7.2.5　決策樹的剪枝 92
7.3　算法案例：借貸人狀態評估 92
7.3.1　利用信息增益選擇最優劃分屬性 93
7.3.2　遞歸構建決策樹 95
7.4　算法總結 96
7.5　本章習題 97
第8章　樸素貝葉斯算法 98
8.1　算法概述 98
8.1.1　算法簡介 98
8.1.2　理論基礎 98
8.2　算法原理 101
8.2.1　算法流程 101
8.2.2　實例分析 102
8.3　算法案例：樸素貝葉斯實現輿情判別 103
8.3.1　樸素貝葉斯分類器 103
8.3.2　核心代碼及分析 104
8.4　算法總結 107
8.4.1　優點 107
8.4.2　缺點 107
8.5　本章習題 107
第9章　集成學習算法 109
9.1　算法概述 109
9.2　算法原理 110
9.2.1　AdaBoost算法 110
9.2.2　Bagging算法 113
9.2.3　隨機森林算法 114
9.3　算法案例：垃圾郵件分類應用 115
9.4　算法總結 118
9.5　本章習題 119
第三部分　無監督式學習算法
第10章　主成分分析算法 121
10.1　算法概述 121
10.2　算法原理 122
10.3　算法案例：數據降維應用 123
10.4　算法總結 124
10.5　本章習題 125
第11章　K-Means算法 126
11.1　算法概述 126
11.2　算法原理 127
11.2.1　算法流程 131
11.2.2　算法描述 131
11.2.3　核心代碼 132
11.3　算法案例：鳶尾花聚類分析 134
11.3.1　鳶尾花卉數據集 134
11.3.2　聚類結果可視化 134
11.4　算法總結 135
11.5　本章習題 135
第12章　EM算法 136
12.1　算法概述 136
12.1.1　最大似然法 136
12.1.2　含有隱變量的參數估計問題 138
12.1.3　EM算法的引入 139
12.2　算法原理 139
12.2.1　EM-GMM推導 141
12.2.2　EM算法求解一維高斯混合模型參數 142
12.3　算法案例：求解男性身高和女性身高的分布
參數 145
12.4　算法總結 149
12.5　本章習題 150
第四部分　深度學習算法
第13章　BP神經網絡 152
13.1　算法概述 152
13.1.1　人工神經網絡 152
13.1.2　BP神經網絡 153
13.2　算法原理 155
13.2.1　正向傳播 155
13.2.2　反向傳播 155
13.2.3　Sigmoid函數 156
13.2.4　BP神經網絡具體步驟 157
13.2.5　三層BP神經網絡算法實現 158
13.3　算法案例：天氣溫度預測 162
13.3.1　項目描述 162
13.3.2　代碼實現 162
13.4　算法總結 164
13.5　本章習題 165
第14章　循環神經網絡 166
14.1　算法概述 166
14.2　算法原理 167
14.2.1　循環神經網絡結構 167
14.2.2　RNN結構變體 168
14.3　算法案例：數據走勢與飛機乘客預測 169
14.3.1　數據走勢預測案例 169
14.3.2　飛機乘客預測案例 172
14.4　算法總結 173
14.4.1　雙向RNN 173
14.4.2　深層雙向RNN 174
14.4.3　金字塔RNN（Pyramidal RNN） 175
14.5　本章習題 175
第15章　卷積神經網絡 176
15.1 　算法概述 176
15.1.1　卷積神經網絡的起源與應用 176
15.1.2　卷積神經網絡結構特點 177
15.1.3　卷積神經網絡核心概念 178
15.2　算法原理 180
15.2.1　選擇激活函數 180
15.2.2　比較損失函數 181
15.2.3　訓練參數調優 183
15.3　算法案例：對Cifar10數據集圖像分類 185
15.3.1　Cifar10數據集使用 185
15.3.2　卷積神經網絡模型訓練 185
15.3.3　圖片模型預測 187
15.4　算法總結 189
15.5　本章習題 189
第16章　LSTM神經網絡 191
16.1　算法概述 191
16.2　算法原理 193
16.2.1　細胞狀態 193
16.2.2　遺忘門 194
16.2.3　輸入門 195
16.2.4　更新門 195
16.2.5　輸出門 195
16.2.6　BPTT 196
16.2.7　梯度消失 197
16.3　算法案例：股票價格預測 198
16.3.1　LSTM算法構建 198
16.3.2　LSTM算法描述 199
16.3.3　LSTM算法實現 199
16.3.4　基于Keras-TensorFlow框架實現股票
價格的預測 201
16.4　算法總結 202
16.5　本章習題 202
第17章　生成對抗網絡 204
17.1　算法概述 204
17.2　算法原理 205
17.2.1　原理過程 205
17.2.2　具體操作 206
17.2.3　目標函數的優化 206
17.2.4　GAN算法的改進 207
17.2.5　算法設計與實現 208
17.2.6　算法的應用 210
17.3　算法案例：擬合二次函數與圖片生成 213
17.3.1　用GAN實現擬合二次函數 213
17.3.2　利用GAN創造假的圖片 214
17.4　算法總結 215
17.5　本章習題 215
參考文獻 217

1. 實用運籌學 [主編　邢育紅　于晉臣]
2. 電子技術（第二版） [主編 覃愛娜 李飛]
3. 勞動爭議處理實務 [主編 王秀卿 羅靜]
4. 工程數學 [主編 郭立娟 王海]
5. 語音識別理論與實踐 [主編　莫宏偉]
6. 武術基礎教程 [主編 李代勇 謝志民]
7. 計算機網絡實訓教程 [主編 張浩軍 趙玉娟]
8. 畫法幾何與機械制圖習題集（多學時） [主編 趙軍]
9. 電工電子技術基礎 [主編 劉 軍 楊國龍 劉天成]
10. MySQL數據庫項目式教程 [陳亞峰]
11. 機械設計基礎（第二版） [主編 田亞平 李愛姣]
12. 人工智能技術導論 [主編 劉軍 趙守凱 林海]
13. 畫法幾何與機械制圖 [主編 趙軍]
14. C語言程序設計習題與實驗指導（第二版） [主編 甄增榮 張賓]
15. C語言程序設計（第二版） [主編 甄增榮 田云霞]
16. Unity3D虛擬現實應用開發實踐 [主 編 劉龍]
17. 智能化技術基礎（第三版） [鄧文達　李禮]
18. 人工智能應用系統開發項目化教程 [主編 楊家慧 周永福 魏育華]
19. 面向對象程序設計 [主編 張勇 張平華 趙小龍]
20. 算法設計與分析 [趙晶]
21. 從石器時代到智能時代—青少年人工智能啟蒙 [丁紅　著]
22. 網絡營銷 [主編 夏薇薇 劉婷 尚潔]
23. 人工智能技術與機器人 [主編　邵克勇]
24. 電視節目策劃與制作（微課版） [主　編　黃滴滴]
25. 數據庫技術與應用實踐教程（SQL Server 2019） [主 編 嚴暉 周肆清]
26. 大學應用數學 [主編 郭立娟]
27. 工業機器人拆裝與調試 [主編 胡月霞 向艷芳 朱奇]
28. 功能材料制備與表征實驗指導書 [龔偉平 趙軍峰 梅海娟 等編著]
29. 信號與系統（第二版） [主編 張宇]
30. 信息技術基礎 [主編 唐倩 邵銳]