《程式設計師的數學2》是一部由平岡和幸 / 堀玄合著的書籍，人民郵電出版社出版發行。
基本介紹
- 書名：程式設計師的數學2
- 作者：平岡和幸 / 堀玄
- ISBN：9787115400512
- 出版社：人民郵電出版社
出版信息,內容簡介,作者簡介,目錄,叢書信息,
出版信息
作者: 平岡和幸 / 堀玄
出版社: 人民郵電出版社
副標題: 機率統計
譯者:陳筱煙
出版年: 2015-8-1
頁數: 405
定價: CNY 79.00
裝幀: 平裝
叢書:程式設計師的數學
ISBN: 9787115400512
出版社: 人民郵電出版社
副標題: 機率統計
譯者:陳筱煙
出版年: 2015-8-1
頁數: 405
定價: CNY 79.00
裝幀: 平裝
叢書:程式設計師的數學
ISBN: 9787115400512
內容簡介
本書沿襲《程式設計師的數學》平易近人的風格，用通俗的語言和具體的圖表深入講解程式設計師必須掌握的各類機率統計知識，例證豐富，講解明晰，且提供了大量擴展內容，引導讀者進一步深入學習。
本書涉及隨機變數、貝葉斯公式、離散值和連續值的機率分布、協方差矩陣、多元常態分配、估計與檢驗理論、偽隨機數以及機率論的各類套用，適合程式設計人員與數學愛好者閱讀，也可作為高中或大學非數學專業學生的機率論入門讀物。
作者簡介
平岡和幸，數理工程學博士，對機器學習興趣濃厚。喜歡Ruby，熱愛Scheme。
堀玄，數理工程學博士，主要從事腦科學與信號處理領域的研究。
目錄
第1部分 聊聊機率這件事
第1章 機率的定義 3
1.1 機率的數學定義 3
1.2 三扇門（蒙提霍爾問題） ——飛艇視角 4
1.2.1 蒙提霍爾問題 5
1.2.2 正確答案與常見錯誤 6
1.2.3 以飛艇視角表述 6
1.3 三元組（Ω, F, P） ——上帝視角 9
1.4 隨機變數 13
1.5 機率分布 17
1.6 適於實際使用的簡記方式 19
1.6.1 隨機變數的表示方法 19
1.6.2 機率的表示方法 20
1.7 Ω是幕后角色 21
1.7.1 不必在意Ω究竟是什麼 21
1.7.2 Ω的習慣處理方式 22
1.7.3 不含Ω（不含上帝視角）的機率論 23
1.8 一些注意事項 23
1.8.1 想做什麼 23
1.8.2 因為是面積…… 24
1.8.3 解釋 26
第2章 多個隨機變數之間的關係 29
2.1 各縣的土地使用情況（面積計算的預熱） 29
2.1.1 不同縣、不同用途的統計（聯合機率與邊緣機率的預熱） 30
2.1.2 特定縣、特定用途的比例（條件機率的預熱） 31
2.1.3 倒推比例（貝葉斯公式的預熱） 32
2.1.4 比例相同的情況（獨立性的預熱） 34
2.1.5 預熱結束 38
2.2 聯合機率與邊緣機率 38
2.2.1 兩個隨機變數 38
2.2.2 三個隨機變數 41
2.3 條件機率 42
2.3.1 條件機率的定義 42
2.3.2 聯合分布、邊緣分布與條件分布的關係 45
2.3.3 即使條件中使用的不是等號也一樣適用 50
2.3.4 三個或更多的隨機變數 51
2.4 貝葉斯公式 55
2.4.1 問題設定 56
2.4.2 貝葉斯的作圖曲 57
2.4.3 貝葉斯公式 61
2.5 獨立性 63
2.5.1 事件的獨立性（定義） 64
2.5.2 事件的獨立性（等價表述） 67
2.5.3 隨機變數的獨立性 70
2.5.4 三個或更多隨機變數的獨立性（需多加注意） 73
第3章 離散值的機率分布 79
3.1 一些簡單的例子 79
第1章 機率的定義 3
1.1 機率的數學定義 3
1.2 三扇門（蒙提霍爾問題） ——飛艇視角 4
1.2.1 蒙提霍爾問題 5
1.2.2 正確答案與常見錯誤 6
1.2.3 以飛艇視角表述 6
1.3 三元組（Ω, F, P） ——上帝視角 9
1.4 隨機變數 13
1.5 機率分布 17
1.6 適於實際使用的簡記方式 19
1.6.1 隨機變數的表示方法 19
1.6.2 機率的表示方法 20
1.7 Ω是幕后角色 21
1.7.1 不必在意Ω究竟是什麼 21
1.7.2 Ω的習慣處理方式 22
1.7.3 不含Ω（不含上帝視角）的機率論 23
1.8 一些注意事項 23
1.8.1 想做什麼 23
1.8.2 因為是面積…… 24
1.8.3 解釋 26
第2章 多個隨機變數之間的關係 29
2.1 各縣的土地使用情況（面積計算的預熱） 29
2.1.1 不同縣、不同用途的統計（聯合機率與邊緣機率的預熱） 30
2.1.2 特定縣、特定用途的比例（條件機率的預熱） 31
2.1.3 倒推比例（貝葉斯公式的預熱） 32
2.1.4 比例相同的情況（獨立性的預熱） 34
2.1.5 預熱結束 38
2.2 聯合機率與邊緣機率 38
2.2.1 兩個隨機變數 38
2.2.2 三個隨機變數 41
2.3 條件機率 42
2.3.1 條件機率的定義 42
2.3.2 聯合分布、邊緣分布與條件分布的關係 45
2.3.3 即使條件中使用的不是等號也一樣適用 50
2.3.4 三個或更多的隨機變數 51
2.4 貝葉斯公式 55
2.4.1 問題設定 56
2.4.2 貝葉斯的作圖曲 57
2.4.3 貝葉斯公式 61
2.5 獨立性 63
2.5.1 事件的獨立性（定義） 64
2.5.2 事件的獨立性（等價表述） 67
2.5.3 隨機變數的獨立性 70
2.5.4 三個或更多隨機變數的獨立性（需多加注意） 73
第3章 離散值的機率分布 79
3.1 一些簡單的例子 79
3.2 二項分布 82
3.2.1 二項分布的推導 82
3.2.2 補充：排列nPk、組合nCk 83
3.3 期望值 85
3.3.1 期望值的定義 85
3.3.2 期望值的基本性質 87
3.3.3 期望值乘法運算的注意事項 91
3.3.4 期望值不存在的情況 93
3.4 方差與標準差 99
3.4.1 即使期望值相同 99
3.4.2 方差即“期望值離散程度”的期望值 100
3.4.3 標準差 102
3.4.4 常量的加法、乘法及標準化 104
3.4.5 各項獨立時，和的方差等於方差的和 108
3.4.6 平方的期望值與方差 110
3.5 大數定律 112
3.5.1 獨立同分布 114
3.5.2 平均值的期望值與平均值的方差 116
3.5.3 大數定律 117
3.5.4 大數定律的相關注意事項 118
3.6 補充內容：條件期望與最小二乘法 120
3.6.1 條件期望的定義 120
3.6.2 最小二乘法 121
3.6.3 上帝視角 122
3.6.4 條件方差 123
第4章 連續值的機率分布 127
4.1 漸變色列印問題（密度計算的預熱） 128
4.1.1 用圖表描述油墨的消耗量（累積分布函式的預熱） 128
4.1.2 用圖表描述油墨的列印濃度（機率密度函式預熱） 129
4.1.3 拉伸列印成品對油墨濃度的影響（變數變換的預熱） 133
4.2 機率為零的情況 136
4.2.1 出現機率恰好為零的情況 137
4.2.2 機率為零將帶來什麼問題 139
4.3 機率密度函式 140
4.3.1 機率密度函式 140
4.3.2 均勻分布 146
4.3.3 機率密度函式的變數變換 147
4.4 聯合分布·邊緣分布·條件分布 152
4.4.1 聯合分布 152
4.4.2 本小節之後的閱讀方式 155
4.4.3 邊緣分布 155
4.4.4 條件分布 159
4.4.5 貝葉斯公式 162
4.4.6 獨立性 163
4.4.7 任意區域的機率·均勻分布·變數變換 166
4.4.8 實數值與離散值混合存在的情況 174
4.5 期望值、方差與標準差 174
4.5.1 期望值 175
4.5.2 方差·標準差 179
4.6 常態分配與中心極限定理 180
4.6.1 標準常態分配 181
4.6.2 一般常態分配 184
4.6.3 中心極限定理 187
第5章 協方差矩陣、多元常態分配與橢圓 195
5.1 協方差與相關係數 196
5.1.1 協方差 196
5.1.2 協方差的性質 199
5.1.3 分布傾向的明顯程度與相關係數 200
5.1.4 協方差與相關係數的局限性 206
5.2 協方差矩陣 208
5.2.1 協方差矩陣=方差與協方差的一覽表 208
5.2.2 協方差矩陣的向量形式表述 209
5.2.3 向量與矩陣的運算及期望值 212
5.2.4 向量值隨機變數的補充說明 215
5.2.5 協方差矩陣的變數變換 217
5.2.6 任意方向的發散程度 218
5.3 多元常態分配 220
5.3.1 多元標準常態分配 220
5.3.2 多元一般常態分配 223
5.3.3 多元常態分配的機率密度函式 228
5.3.4 多元常態分配的性質 230
5.3.5 截面與投影 232
5.3.6 補充知識：卡方分布 239
5.4 協方差矩陣與橢圓的關係 242
5.4.1 （實例一）單位矩陣與圓 242
5.4.2 （實例二）對角矩陣與橢圓 244
5.4.3 （實例三）一般矩陣與傾斜的橢圓 247
5.4.4 協方差矩陣的局限性 251
第2部分 探討機率的套用
第6章 估計與檢驗 257
6.1 估計理論 257
6.1.1 描述統計與推斷統計 257
6.1.2 描述統計 258
6.1.3 如何理解推斷統計中的一些概念 260
6.1.4 問題設定 264
6.1.5 期望罰款金額 265
6.1.6 多目標最佳化 266
6.1.7 （策略一）減少候選項——最小方差無偏估計 267
6.1.8 （策略二）弱化最優定義——最大似然估計 269
6.1.9 （策略三）以單一數值作為評價基準——貝葉斯估計 272
6.1.10 策略選擇的相關注意事項 275
6.2 檢驗理論 276
6.2.1 檢驗理論中的邏輯 276
6.2.2 檢驗理論概述 278
6.2.3 簡單假設 279
6.2.4 複合假設 282
第7章 偽隨機數 285
7.1 偽隨機數的基礎知識 285
7.1.1 隨機數序列 285
7.1.2 偽隨機數序列 286
7.1.3 典型套用：蒙特卡羅方法 287
7.1.4 相關主題：密碼理論中的偽隨機數序列·低差異序列 289
7.2 遵從特定分布的隨機數的生成 291
7.2.1 遵從離散值分布的隨機數的生成 292
7.2.2 遵從連續值分布的隨機數的生成 293
7.2.3 遵從常態分配的隨機數的生成 296
7.2.4 補充知識：三角形內及球面上的均勻分布 298
第8章 機率論的各類套用 305
8.1 回歸分析與多變數分析 305
8.1.1 通過最小二乘法擬合直線 305
8.1.2 主成分分析 312
8.2 隨機過程 319
8.2.1 隨機遊走 321
8.2.2 卡爾曼濾波器 326
8.2.3 馬爾可夫鏈 331
8.2.4 關於隨機過程的一些補充說明 342
8.3 資訊理論 343
8.3.1 熵 343
8.3.2 二元熵 347
8.3.3 信源編碼 349
8.3.4 信道編碼 352
附錄A 本書涉及的數學基礎知識 359
A.1 希臘字母 359
A.2 數 359
A.2.1 自然數·整數 359
A.2.2 有理數·實數 359
A.2.3 複數 360
A.3 集合 360
A.3.1 集合的表述方式 360
A.3.2 無限集的大小 361
A.3.3 強化練習 361
A.4 求和符號∑ 362
A.4.1 定義與基本性質 362
A.4.2 雙重求和 364
A.4.3 範圍指定 366
A.4.4 等比數列 366
A.5 指數與對數 368
A.5.1 指數函式 368
A.5.2 高斯積分 371
A.5.3 對數函式 374
A.6 內積與長度 377
附錄B 近似公式與不等式 381
B.1 斯特林公式 381
B.2 琴生不等式 381
B.3 吉布斯不等式 384
B.4 馬爾可夫不等式與切比雪夫不等式 385
B.5 切爾諾夫界 386
B.6 閔可夫斯基不等式與赫爾德不等式 387
B.7 算術平均值≥ 幾何平均值≥ 調和平均值 390
附錄C 機率論的補充知識 393
C.1 隨機變數的收斂 393
C.1.1 依機率1收斂 393
C.1.2 依機率收斂 395
C.1.3 均方收斂 396
C.1.4 依分布收斂 396
C.2 特徵函式 397
C.3 KL散度與大偏差原理 399
3.2.1 二項分布的推導 82
3.2.2 補充：排列nPk、組合nCk 83
3.3 期望值 85
3.3.1 期望值的定義 85
3.3.2 期望值的基本性質 87
3.3.3 期望值乘法運算的注意事項 91
3.3.4 期望值不存在的情況 93
3.4 方差與標準差 99
3.4.1 即使期望值相同 99
3.4.2 方差即“期望值離散程度”的期望值 100
3.4.3 標準差 102
3.4.4 常量的加法、乘法及標準化 104
3.4.5 各項獨立時，和的方差等於方差的和 108
3.4.6 平方的期望值與方差 110
3.5 大數定律 112
3.5.1 獨立同分布 114
3.5.2 平均值的期望值與平均值的方差 116
3.5.3 大數定律 117
3.5.4 大數定律的相關注意事項 118
3.6 補充內容：條件期望與最小二乘法 120
3.6.1 條件期望的定義 120
3.6.2 最小二乘法 121
3.6.3 上帝視角 122
3.6.4 條件方差 123
第4章 連續值的機率分布 127
4.1 漸變色列印問題（密度計算的預熱） 128
4.1.1 用圖表描述油墨的消耗量（累積分布函式的預熱） 128
4.1.2 用圖表描述油墨的列印濃度（機率密度函式預熱） 129
4.1.3 拉伸列印成品對油墨濃度的影響（變數變換的預熱） 133
4.2 機率為零的情況 136
4.2.1 出現機率恰好為零的情況 137
4.2.2 機率為零將帶來什麼問題 139
4.3 機率密度函式 140
4.3.1 機率密度函式 140
4.3.2 均勻分布 146
4.3.3 機率密度函式的變數變換 147
4.4 聯合分布·邊緣分布·條件分布 152
4.4.1 聯合分布 152
4.4.2 本小節之後的閱讀方式 155
4.4.3 邊緣分布 155
4.4.4 條件分布 159
4.4.5 貝葉斯公式 162
4.4.6 獨立性 163
4.4.7 任意區域的機率·均勻分布·變數變換 166
4.4.8 實數值與離散值混合存在的情況 174
4.5 期望值、方差與標準差 174
4.5.1 期望值 175
4.5.2 方差·標準差 179
4.6 常態分配與中心極限定理 180
4.6.1 標準常態分配 181
4.6.2 一般常態分配 184
4.6.3 中心極限定理 187
第5章 協方差矩陣、多元常態分配與橢圓 195
5.1 協方差與相關係數 196
5.1.1 協方差 196
5.1.2 協方差的性質 199
5.1.3 分布傾向的明顯程度與相關係數 200
5.1.4 協方差與相關係數的局限性 206
5.2 協方差矩陣 208
5.2.1 協方差矩陣=方差與協方差的一覽表 208
5.2.2 協方差矩陣的向量形式表述 209
5.2.3 向量與矩陣的運算及期望值 212
5.2.4 向量值隨機變數的補充說明 215
5.2.5 協方差矩陣的變數變換 217
5.2.6 任意方向的發散程度 218
5.3 多元常態分配 220
5.3.1 多元標準常態分配 220
5.3.2 多元一般常態分配 223
5.3.3 多元常態分配的機率密度函式 228
5.3.4 多元常態分配的性質 230
5.3.5 截面與投影 232
5.3.6 補充知識：卡方分布 239
5.4 協方差矩陣與橢圓的關係 242
5.4.1 （實例一）單位矩陣與圓 242
5.4.2 （實例二）對角矩陣與橢圓 244
5.4.3 （實例三）一般矩陣與傾斜的橢圓 247
5.4.4 協方差矩陣的局限性 251
第2部分 探討機率的套用
第6章 估計與檢驗 257
6.1 估計理論 257
6.1.1 描述統計與推斷統計 257
6.1.2 描述統計 258
6.1.3 如何理解推斷統計中的一些概念 260
6.1.4 問題設定 264
6.1.5 期望罰款金額 265
6.1.6 多目標最佳化 266
6.1.7 （策略一）減少候選項——最小方差無偏估計 267
6.1.8 （策略二）弱化最優定義——最大似然估計 269
6.1.9 （策略三）以單一數值作為評價基準——貝葉斯估計 272
6.1.10 策略選擇的相關注意事項 275
6.2 檢驗理論 276
6.2.1 檢驗理論中的邏輯 276
6.2.2 檢驗理論概述 278
6.2.3 簡單假設 279
6.2.4 複合假設 282
第7章 偽隨機數 285
7.1 偽隨機數的基礎知識 285
7.1.1 隨機數序列 285
7.1.2 偽隨機數序列 286
7.1.3 典型套用：蒙特卡羅方法 287
7.1.4 相關主題：密碼理論中的偽隨機數序列·低差異序列 289
7.2 遵從特定分布的隨機數的生成 291
7.2.1 遵從離散值分布的隨機數的生成 292
7.2.2 遵從連續值分布的隨機數的生成 293
7.2.3 遵從常態分配的隨機數的生成 296
7.2.4 補充知識：三角形內及球面上的均勻分布 298
第8章 機率論的各類套用 305
8.1 回歸分析與多變數分析 305
8.1.1 通過最小二乘法擬合直線 305
8.1.2 主成分分析 312
8.2 隨機過程 319
8.2.1 隨機遊走 321
8.2.2 卡爾曼濾波器 326
8.2.3 馬爾可夫鏈 331
8.2.4 關於隨機過程的一些補充說明 342
8.3 資訊理論 343
8.3.1 熵 343
8.3.2 二元熵 347
8.3.3 信源編碼 349
8.3.4 信道編碼 352
附錄A 本書涉及的數學基礎知識 359
A.1 希臘字母 359
A.2 數 359
A.2.1 自然數·整數 359
A.2.2 有理數·實數 359
A.2.3 複數 360
A.3 集合 360
A.3.1 集合的表述方式 360
A.3.2 無限集的大小 361
A.3.3 強化練習 361
A.4 求和符號∑ 362
A.4.1 定義與基本性質 362
A.4.2 雙重求和 364
A.4.3 範圍指定 366
A.4.4 等比數列 366
A.5 指數與對數 368
A.5.1 指數函式 368
A.5.2 高斯積分 371
A.5.3 對數函式 374
A.6 內積與長度 377
附錄B 近似公式與不等式 381
B.1 斯特林公式 381
B.2 琴生不等式 381
B.3 吉布斯不等式 384
B.4 馬爾可夫不等式與切比雪夫不等式 385
B.5 切爾諾夫界 386
B.6 閔可夫斯基不等式與赫爾德不等式 387
B.7 算術平均值≥ 幾何平均值≥ 調和平均值 390
附錄C 機率論的補充知識 393
C.1 隨機變數的收斂 393
C.1.1 依機率1收斂 393
C.1.2 依機率收斂 395
C.1.3 均方收斂 396
C.1.4 依分布收斂 396
C.2 特徵函式 397
C.3 KL散度與大偏差原理 399
參考文獻 404
叢書信息
程式設計師的數學 (共3冊), 這套叢書還有 《程式設計師的數學》,《程式設計師的數學3》
