基本介紹
- 書名：機器學習：從公理到算法
- 作者：於劍
- ISBN：9787302471363
- 定價：80元
- 出版時間：2017.07.01
- 印刷日期：2017.07.25
內容簡介,圖書目錄,
內容簡介
這是一本基於公理研究學習算法的書。共 17章，由兩部分組成。第一部分是機器學習公理以及部分理論演繹，包括第 1、2、6、8 章，論述學習公理以及相應的聚類、分類理論。第二部分關注如何從公理推出經典學習算法，包括單類、多類和多源問題。第 3～5 章為單類問題，分別論述密度估計、回歸和單類數據降維。第 7、9～16 章為多類問題，包括聚類、神經網路、 K近鄰、支持向量機、Logistic回歸、貝葉斯分類、決策樹、多類降維與升維等經典算法。最後第 17章研究了多源數據學習問題。
圖書目錄
第1章引言 1
1.1機器學習的目的：從數據到知識 1
1.2機器學習的基本框架 2
1.2.1數據集合與對象特性表示 3
1.2.2學習判據 4
1.2.3學習算法 5
1.3機器學習思想簡論 .5 延伸閱讀 .7 習題 8 參考文獻 .9
第2章歸類理論 11
2.1類表示公理 13
2.2歸類公理 .17
2.3歸類結果分類 .20
2.4歸類方法設計準則 .22
2.4.1類一致性準則 23
2.4.2類緊緻性準則 23
2.4.3類分離性準則 25
2.4.4奧卡姆剃刀準則 .25 討論 .27 延伸閱讀 .29 習題 .30 參考文獻 .31
第3章密度估計 33
3.1密度估計的參數方法 33
3.1.1最大似然估計 33
3.1.2貝葉斯估計 .35
3.2密度估計的非參數方法 .39
3.2.1直方圖 .39
3.2.2核密度估計 .39
3.2.3K近鄰密度估計法 40 延伸閱讀 .40 習題 .41 參考文獻 .41
第4章回歸 43
4.1線性回歸 .43
4.2嶺回歸 .47
4.3Lasso回歸 .48 討論 .51 習題 .52 參考文獻 .52
第5章單類數據降維 53
5.1主成分分析 54
5.2非負矩陣分解 .56
5.3字典學習與稀疏表示 57
5.4局部線性嵌入 .59
5.5典型關聯分析 .62
5.6多維度尺度分析與等距映射 .63 討論 .65 習題 .66 參考文獻 .66
第6章聚類理論 69
6.1聚類問題表示及相關定義 .69
6.2聚類算法設計準則 .70
6.2.1類緊緻性準則和聚類不等式 70
6.2.2類分離性準則和重合類非穩定假設 72
6.2.3類一致性準則和疊代型聚類算法 73
6.3聚類有效性 73
6.3.1外部方法 73
6.3.2內蘊方法 75 延伸閱讀 .76 習題 .77 參考文獻 .77
第7章聚類算法 81
7.1樣例理論：層次聚類算法 .81
7.2原型理論：點原型聚類算法 83
7.2.1C均值算法 84
7.2.2模糊C均值 86
7.3基於密度估計的聚類算法.............................................................88
7.3.1基於參數密度估計的聚類算法............................................88
7.3.2基於無參數密度估計的聚類算法.........................................97 延伸閱讀..........................................................................................106 習題................................................................................................107 參考文獻..........................................................................................108
第8章分類理論...................................................................................111
8.1分類及相關定義........................................................................111
8.2從歸類理論到經典分類理論.......................................................112
8.2.1PAC理論.......................................................................113
8.2.2統計機器學習理論...........................................................115
8.3分類測試公理...........................................................................118 討論................................................................................................119 習題................................................................................................119 參考文獻..........................................................................................120
第9章基於單類的分類算法：神經網路..................................................121
9.1分類問題的回歸表示.................................................................121
9.2人工神經網路...........................................................................122
9.2.1人工神經網路相關介紹....................................................122
9.2.2前饋神經網路.................................................................124
9.3從參數密度估計到受限玻耳茲曼機.............................................129
9.4深度學習..................................................................................131
9.4.1自編碼器........................................................................132
9.4.2卷積神經網路.................................................................132 討論................................................................................................133 習題................................................................................................134 參考文獻..........................................................................................134
第10章K近鄰分類模型......................................................................137
10.1K近鄰算法.............................................................................138
10.1.1K近鄰算法問題表示....................................................138
10.1.2K近鄰分類算法..........................................................139
10.1.3K近鄰分類算法的理論錯誤率......................................140
10.2距離加權最近鄰算法................................................................141
10.3K近鄰算法加速策略...............................................................142
10.4kd樹......................................................................................143
10.5K近鄰算法中的參數問題.........................................................144 延伸閱讀..........................................................................................145 習題................................................................................................145 參考文獻..........................................................................................145
第11章線性分類模型..........................................................................147
11.1判別函式和判別模型................................................................147
11.2線性判別函式..........................................................................148
11.3線性感知機算法......................................................................151
11.3.1感知機數據表示...........................................................151
11.3.2感知機算法的歸類判據.................................................152
11.3.3感知機分類算法...........................................................153
11.4支持向量機.............................................................................156
11.4.1線性可分支持向量機....................................................156
11.4.2近似線性可分支持向量機.............................................159
11.4.3多類分類問題..............................................................162 討論................................................................................................164 習題................................................................................................165 參考文獻..........................................................................................166
第12章對數線性分類模型...................................................................167
12.1Softmax回歸..........................................................................167
12.2Logistic回歸...........................................................................170 討論................................................................................................172 習題................................................................................................173 參考文獻..........................................................................................173
第13章貝葉斯決策.............................................................................175
13.1貝葉斯分類器..........................................................................175
13.2樸素貝葉斯分類......................................................................176
13.2.1最大似然估計..............................................................178
13.2.2貝葉斯估計.................................................................181
13.3最小化風險分類......................................................................183
13.4效用最大化分類......................................................................185 討論................................................................................................185 習題................................................................................................186 參考文獻..........................................................................................186
第14章決策樹....................................................................................187
14.1決策樹的類表示......................................................................187
14.2信息增益與ID3算法...............................................................192
14.3增益比率與C4.5算法..............................................................194
14.4Gini指數與CART算法...........................................................195
14.5決策樹的剪枝..........................................................................196 討論................................................................................................197 習題................................................................................................197 參考文獻..........................................................................................198
第15章多類數據降維..........................................................................199
15.1有監督特徵選擇模型................................................................199
15.1.1過濾式特徵選擇...........................................................200
15.1.2包裹式特徵選擇...........................................................201
15.1.3嵌入式特徵選擇...........................................................201
15.2有監督特徵提取模型................................................................202
15.2.1線性判別分析..............................................................202
15.2.2二分類線性判別分析問題.............................................202
15.2.3二分類線性判別分析....................................................203
15.2.4二分類線性判別分析最佳化算法.......................................205
15.2.5多分類線性判別分析....................................................205 延伸閱讀..........................................................................................207 習題................................................................................................207 參考文獻..........................................................................................207
第16章多類數據升維：核方法.............................................................209
16.1核方法....................................................................................209
16.2非線性支持向量機...................................................................210
16.2.1特徵空間.....................................................................210
16.2.2核函式........................................................................210
16.2.3常用核函式.................................................................212
16.2.4非線性支持向量機.......................................................212
16.3多核方法................................................................................213 討論................................................................................................215 習題................................................................................................215 參考文獻..........................................................................................216
第17章多源數據學習..........................................................................217
17.1多源數據學習的分類................................................................217
17.2單類多源數據學習...................................................................217
17.2.1完整視角下的單類多源數據學習...................................218
17.2.2不完整視角下的單類多源數據學習................................220
17.3多類多源數據學習...................................................................221
17.4多源數據學習中的基本假設......................................................222 討論................................................................................................222 習題................................................................................................223 參考文獻..........................................................................................223
後記........................................................................................................225
索引........................................................................................................229
