套用隨機過程教程及在算法和智慧型計算中的隨機模型

《套用隨機過程教程及在算法和智慧型計算中的隨機模型》是200年清華大學出版社出版的圖書，作者是龔光魯。

基本介紹

• 書名：套用隨機過程教程及在算法和智慧型計算中的隨機模型
• 作者：龔光魯　
• ISBN：9787302069485　
• 出版時間：：2004-3-20　

圖書信息

書名：套用隨機過程教程及在算法和智慧型計算中的隨機模型

ISBN：9787302069485

作者：龔光魯

定價：42元

出版日期：2004-3-20

出版社：清華大學出版社

圖書簡介

本書概述了套用隨機過程的基本內容以及近代的重要進展與重要方法，且並不要求讀者具有測度論的知識，在使用不嚴格的推理的情況下，遵循強調想法、背景與思路的原則，盡力做到理論與算法兼顧。

全書共分17章，內容包括機率論精要回顧與補充、隨機樣本生成法、隨機過程的一般概念與獨立增量過程、更新現象及其理論、離散時間的Markov鏈、連續時間的Markov鏈、排隊過程簡介、Markov鏈Monte Carlo方法、以圖像信息為背景的隨機場與疊代Markov系統以及Bayes統計方法、隱Markov模型及其套用、Gauss系二階矩過程與時間序列、連續狀態的Markov過程、鞅ItÖ積分與隨機微分方程、金融證券未定權益的定價、隨機過程在精算與風險模型中的套用、與數據建模有關的幾個算法、離散狀態的Markov控制與決策過程簡介、Poisson隨機分析簡介與典型的點過程。

本書的內容是隨機建模的基本工具，適合於作為理、工及管理學科的本科高年級學生和研究生的教材或參考書；也是教師、研究人員以及使用套用隨機過程分析數據資料工作者的重要參考書。

目錄

前言1

符號說明19

第1章機率論精要回顧與補充1

1基本框架與典型分布1

1.1機率1

1.2隨機變數1

1.3d維隨機向量3

1.4獨立性3

1.5Chebyshev 不等式4

1.6基本極限與基本極限定理(大數定律與中心極限定理) 4

1.7典型分布7

1.8次序隨機變數的分布11

2條件機率、條件分布、條件(數學)期望11

2.1條件機率11

2.2條件分布12

2.3條件（數學）期望13

2.4期望與方差的Wald等式

17

3統計簡要19

3.1用樣本作矩估計19

3.2最大似然估計 19

3.3線性模型的最小二乘估計及其推廣20

習題121

第2章隨機樣本生成法28

1一維隨機數28

1.1均勻隨機變數的計算機模擬28

1.2分布函式F(x)的隨機數28

1.3正態隨機數29

1.4Poisson隨機數30

1.5混合分布隨機數30

1.6Von Neuman 取捨原則 31

1.7Gamma隨機數與Beta隨機數的生成

32

2多維隨機數33

2.1連續型多維隨機數33

2.2離散型多維隨機數33

2.3多維正態隨機數33

2.4多維Beta隨機數（Dirichlet隨機數）的生

成34

*3附錄——用Matlab生成隨機數34

3.1Matlab語言的簡單提示

34

3.2Matlab生成隨機數的語句36

習題238

第3章隨機過程的一般概念與獨立增量過程

40

1一般概念40

1.1隨機過程與有限維分布族40

1.2獨立增量過程40

2Poisson 過程與複合Poisson過程41

2.1事故申報次數的機率模型與Poisson過程

41

2.2Poisson過程與指數流的關係43

2.3與指數流有關的一些隨機變數與分布46

2.4常見的推廣49

2.5複合Poisson過程50

3Brown 運動(Wiener 過程)及其函式51

3.1歷史背景與物理模型51

3.2Brown 運動 (數學模型)53

3.3Brown運動的簡單性質54

3.4Brown運動的反射原理及首達性質55

3.5與Brown運動有關的幾個簡單隨機過程58

3.6漂移Brown運動 59

3.7幾何Brown運動60

4簡單隨機徘徊60

4.1雙側吸收壁的吸收機率61

4.2隨機徘徊的對稱原理62

4.3隨機徘徊的首達時刻62

4.4簡單隨機徘徊與首達時63

習題365

第4章更新現象及其理論

68

1Stieltjes 積分簡述68

2更新過程的概念 69

2.1作為Poisson過程推廣的更新過程69

2.2更新函式的更新方程 71

2.3年齡與剩餘壽命73

3更新定理與更新次數的正態近似75

3.1更新定理75

*3.2更新過程的正態近似75

*3.3Blackwell定理與主更新定理76

3.4更新間隔為正整值隨機變數的更新過程77

4更新過程的變種模型77

4.1交錯更新過程77

4.2延遲更新過程78

4.3帶酬更新過程78

5再生過程與其相系的更新過程79

5.1再生過程的概念79

5.2與再生過程相系的更新過程80

5.3比例極限定理在再生過程中的套用80

5.4存儲模型的一個例子81

*6Erlang 更新過程82

6.1Erlang更新過程的定義82

6.2Erlang 更新過程的矩母函式83

習題484

第5章離散狀態Markov鏈86

1Markov鏈的概念86

1.1定義與Markov性質86

1.2機率轉移矩陣88

1.3時齊的Markov鏈89

1.4Markov鏈的例90

2Markov鏈的狀態分類94

2.1首達分解、n步轉移機率的遞推式、矩母函式、常返性94

2.2常返性再訪與Markov鏈的基本結構98

2.3平均回訪時間與正常返性101

3Markov鏈的轉移機率的極限與不變分布102

3.1不變分布與平穩Markov鏈102

3.2有限狀態Markov鏈的不變分布與極限分布102

3.3轉移矩陣的平均極限105

4Dobrushin 不等式與指數收斂性107

4.1Dobrushin 不等式107

4.2Dobrushin 收斂定理108

5與常返態相系的延遲更新流,互通常返Markov鏈的極限定理

109

5.1與常返態相系的延遲更新流109

5.2互通常返鏈的極限定理109

6停時與強Markov性114

6.1停時114

6.2強Markov性114

7禁忌機率與首達分布115

7.1禁忌機率115

7.2首達時與首達分布115

7.3禁忌機率, 首達分布與平均首達時間115

8可逆Markov鏈與可逆分布117

8.1可逆Markov鏈117

8.2例118

8.3可逆初分布存在性判別法119

9分支Markov鏈(Galton?Watson簡單分支過程)120

習題5123

第6章連續時間的Markov鏈129

1連續時間的Markov鏈及其轉移矩陣129

1.1連續時間的Markov鏈的定義及等價性敘述129

1.2連續時間的Markov鏈機率轉移矩陣129

1.3連續時間的時齊的Markov鏈130

2Poisson 過程與複合Poisson 過程再訪131

3由轉移速率矩陣確定連續時間的Markov鏈133

3.1Kolmogorov 方程及Master 方程133

3.2轉移速率矩陣的機率含義134

4連續時間的Markov鏈的極限分布135

4.1連續時間的Markov鏈的轉移矩陣的平均極限135

4.2連續時間的Markov鏈的極限分布

135

5連續時間的Markov鏈的轉移矩陣P(t)的不變分布137

5.1連續時間的Markov鏈的轉移矩陣P(t)的不變分布

與其嵌入鏈的不變分布137

5.2連續時間的Markov鏈的遍歷極限138

5.3對稱的與可逆的連續時間的Markov鏈139

6例140

6.1連續時間分支過程140

6.2有限格點上的Ising模型與Gauber動力學142

6.3生滅類過程143

6.4系統與有效度149

7連續時間的Markov鏈的模擬與加速收斂156

7.1連續時間的Markov鏈的模擬156

7.2加速收斂的均勻化方法156

習題6156

第7章排隊過程簡介160

1排隊過程的描述160

1.1排隊系統 160

1.2排隊系統的一般框圖,輸入過程與輸出過程160

1.3可逆性引理161

2最簡單排隊過程——Markov排隊過程161

2.1最簡單的排隊過程——M/M/1系統

161

2.2N個服務員的簡單排隊過程——M/M/N 系統163

*2.3序貫排隊與排隊網路系統166

2.4M/M/∞排隊系統167

3排隊系統的一般概念169

3.1關於排隊論的一般註記169

3.2M/M/N消失制170

*3.3M/G/1排隊系統171

*3.4G/M/1排隊系統174

3?5關於M/G/∞系統的註記

176

*4半Markov過程 177

4.1半Markov過程的定義177

4.2半Markov過程的漸近性質178

*5有限位相型分布( PH?分布)179

5.1背景179

5.2有限位相型分布(PH?分布)179

5.3離散PH?分布182

5.4PH?分布類的封閉性183

習題7184

第8章Markov 鏈Monte Carlo 方法

186

1計算積分的Monte Carlo方法與採樣量估計

186

1.1用頻率估計機率來計算積分的Monte Carlo方法

186

1.2用樣本函式的平均值估計的期望來計算積分的

Monte Carlo方法——期望法188

1.3減少方差的技術189

2Markov 鏈Monte Carlo191

2.1Gibbs 採樣法192

2.2Metropolis採樣法194

2.3通過條件分布對分布π作隨機採樣的Gibbs方法197

2.4MCMC套用於Bayes參數估計201

3模擬退火203

3.1模擬退火方法的基本想法203

3.2有關模擬退火算法的非時齊馬氏鏈的理論背景205

習題8208

第9章以圖像信息為背景的隨機場疊代Markov系統

209

1有限格點上的Markov隨機場與圖像209

1.1有限格點上的Markov隨機場209

1.2相鄰系統的Gibbs分布與Gibbs隨機場（??鄰位勢Gibbs場）211

1.3圖像處理的隨機過程方法的思路原則概述213

1.4Gibbs分布的樣本的Gibbs採樣法214

1.5Gibbs分布的模擬退火216

2時間離散狀態連續的Markov鏈218

2.1機率空間再訪218

2.2時間離散狀態連續的Markov鏈219

2.3機率轉移核221

2.4時齊的連續狀態Markov鏈222

2.5例223

2.6尋找Rd上可微函式f(x)的最小值位置的模擬退火算法224

2.7Dobrushin 不等式、指數遍歷性與收斂性225

3隨機的疊代函式系統228

3.1局部相似性的基本想法228

3.2輪廓圖全體組成的距離空間229

3.3灰度圖與隨機疊代函式系統233

4統計中的Bayes方法與圖像的處理、分割與重建237

4.1Bayes統計要義237

4.2Bayes方法在圖像中的套用與觀測量不是狀態變數時的

參數估計240

習題9242

第10章隱Markev模型及其套用243

1熵與相對熵243

1.1離散分布的熵與相對熵243

1.2分布密度的熵與相對熵245

2隱Markov 模型 247

2.1一個實例247

2.2隱Markov 模型的描述249

2.3隱Markov模型的等價表述249

2.4非線性濾波作為隱Markov模型的特例250

2.5在套用中研究隱Markov模型的主要方面

250

3解碼問題——已知模型λ與觀測Y=y時狀態X的估計251

3.1出現當前的觀測的機率P(Y=y|λ)的計算251

3.2解碼問題——已知模型λ與觀測Y=y

時狀態X的估計252

4學習問題——由觀測Y=y估計模型參數λ253

4.1狀態鏈樣本已知時的參數頻率估計

253

4.2模型參數估計的EM算法的思想253

4.3隱Markov模型中M步驟的求解255

5關於隱Markov模型的評註258

5.1隱Markov模型包容度大有非常寬的套用面258

5.2隱Markov模型的更為一般的形式259

6隱Markov模型的套用例子梗概 260

6.1語音的機器識別260

6.2脫機手寫體漢字識別262

6.3DNA序列片斷裝配及啟動子識別262

習題10264

第11章Gauss系二階矩過程與時間序列266

1全體方差有限的隨機變數構成的Hilbert空間266

1.1實值情形266

1.2復值情形266

2隨機變數族的均方信息空間與濾波267

2.1均方信息空間267

2.2濾波問題267

3Gauss系與投影再訪268

3.1Gauss過程的定義、等價條件及其性質268

3.2Gauss過程的投影——線性濾波270

3.3復Gauss過程271

3.4Gauss過程的特徵泛函271

4平穩性與寬平穩性271

4.1平穩序列與寬平穩序列271

4.2漸近平穩序列與漸近寬平穩序列273

4.3平穩增量序列273

5ARMA模型274

5.1ARMA(p, q)274

5.2AR模型的定階與偏相關係數以及模型參數的估計

275

5.3MA模型的定階與參數估計279

5.4ARMA模型的定階與參數估計280

5.5ARMA模型的預報問題282

6ARCH 模型284

6.1ARCH(q)284

6.2ARCH（q)的定階與參數估計285

6.3ARCH(q)模型的方差預報286

*7GARCH (p,q) 模型與其他隨機方差模型

286

7.1GARCH模型286

7.2金融證券模型中的GARCH(1,1)287

7.3GARCH（p,q)的參數估計288

7.4SV模型（隨機條件異方差模型）

289

8二階矩序列濾波的再訪291

8.1線性濾波再訪291

8.2Kalman?Bucy濾波292

*9二階自相似時間序列與長程相關性295

9.1統計自相似性295

9.2二階自相似性297

9.3長程相關性298

*10非線性AR模型與二重ARMA模型301

10.1非線性AR模型301

10.2非線性AR模型的常見例子303

10.3二重ARMA模型305

習題11305

第12章連續時間連續狀態的Markov過程、鞅、It?積分

與隨機微分方程307

1連續時間連續狀態的 Markov過程307

1.1平穩Gauss過程307

1.2時間與狀態都連續的時齊Markov過程310

2鞅列與鞅311

*2.1條件期望再訪311

2.2鞅列313

2.3連續時間參數的鞅320

3It?積分——對 Brown 運動的積分323

3.1對 Brown運動的積分與其特殊性323

3.2It?公式328

4隨機微分方程與擴散過程簡介332

4.1隨機微分方程332

4.2擴散過程335

*4.3Girsanov定理與Feyman?Kac公式

341

5隨機微分方程的解的數值模擬算法342

5.1隨機微分方程在固定時刻附近的隨機Taylor展開

與解的差分近似343

5.2It?過程的一個光滑函式f複合在時刻t

附近的隨機Taylor展開344

5.3差分近似模型的改進345

習題12346

第13章金融證券未定權益的定價350

1Black?Scholes模型的歐式未定權益的定價

350

1.1術語與基本假定350

1.2定價的套期方法352

1.3風險中性機率方法354

1.5倒向隨機微分方程方法358

1.6時變的Black?Scholes模型359

2二叉模型與Black?Scholes模型的二叉近似 359

2.1二叉模型359

2.2Black?Scholes模型的二叉近似362

3二叉模型的美式未定權益簡述363

3.1美式未定權益363

3.2二叉模型美式未定權益{f(Sn),n≤N}的

定價與定價函式組

366

4隨機利率與債券利率的期限結構368

4.1s?零息債券368

4.2零息債券導出的各種隨機利率概念

369

4.3資產定價基本定理與利率衍生證券

371

4.4利率的風險中性模型371

*5基於證券的隨機利率的債券為幣值單位折現的證券及其

未定權益的定價376

習題13377

第14章隨機過程在精算與風險模型中的套用

379

1基本概念379

1.1保險中的利率概念379

1.2生存模型的壽命分布與精算模型中的余壽380

2風險模型與破產理論介紹382

2.1盈餘過程與永不破產的機率382

2.2時刻t前不破產的機率的公式與估計383

2.3有準備金時最終破產機率的上界與調節係數386

2.4破產機率的方程388

2.5保險費的效用函式與保險費策略的制定389

2.6最大損失的分布390

3考慮利率與投資的保險模型簡述391

習題14391

第15章與數據建模有關的幾個算法 393

1EM算法——具有隱狀態變數的分布中參數的最大似然估計393

1.1EM算法的基本想法393

1.2Rubin算法394

1.3EM算法的變通—— 廣義EM算法

395

*2在數據不完全時，用增補潛在數據後對參數的Bayes分布作估計

——Tann

er?Wong的潛變數法396

2.1基本想法——估計後驗分布396

2.2未知參數的後驗分布的疊代估計

396

3幾種智慧型算法397

3.1背景397

3.2決定性的人工神經網路398

3?2?1決定性的前傳人工神經網路399

3?2?2一般的決定性的人工神經網路模型

（神經元未必只取1或0）401

3.3隨機的人工神經網路401

3?3?1隨機因素及其作用401

3?3?2遞歸（或反饋）（recurrent)網路與Boltzman機401

3.4演化算法，遺傳算法405

4聚類，Kohonen 自組織學習, 自適應算法409

4.1k?平均聚類409

4.2自適應聚類的基本思路409

4.3固定規模的Kohonen網路410

4.4網路的規模的競爭學習412

5適應最小二乘法——一種適應的變步長的隨機逼近413

第16章離散狀態的Markov控制與決策過程簡介414

1例414

1.1隨機決策模型的簡單例子414

1.2簡單模型的啟示 416

2動作只依賴當前所處狀態的簡單決策模型417

2.1簡單模型的一般描述417

2.2有限時段總報酬準則下的最佳Markov策略的構造

419

2.3無窮時段下的總報酬情形

420

第17章Poisson隨機分析簡介與典型的點過程423

1非時齊的Poisson過程、非時齊的複合Poisson過程及其特徵泛函423

1.1數值函式對Poisson過程的積分423

1.2Poisson過程的特徵泛函423

1.3非時齊Poisson過程的統計性質424

1.4數值函式對非時齊Poisson過程的積分及非時齊的Poisson

過程的特徵泛函426

1.5非時齊的複合Poisson過程及其特徵泛函

428

2與非時齊的複合Poisson過程相系的Poisson點過程

429

2.1將非時齊複合Poisson過程表示為非時齊Poisson過程

的積分（用時間

積分表示）429

2.2將非時齊複合Poisson過程表示為Poisson點過程

的積分（用空間積分

表示）430

2.3將非時齊複合Poisson過程表示為時空Poisson過程

的積分（用時空積

分表示）432

3過濾的Poisson過程433

4Poisson隨機微積分簡介434

4.1關於時空Poisson點過程的隨機積分434

4.2以Poisson過程或以時空Poisson點過程驅動的隨機微分

方程與Poisson

隨機微積分的複合函式的It?公式436

4.3由Brown運動和時空Poisson過程聯合驅動的隨機微分方程

439

5自激點過程440

5.1自激點過程的強度過程與條件計數強度

440

5.2自激點過程的絕對機率440

5.3自激點過程的事件到達時刻的聯合分布

441

5.4具有限記憶的自激點過程442

5.5對於自激點過程的隨機積分443

5.6二重Poisson過程443

習題17445

參考文獻447

索引449