基本介紹
- 中文名：貝葉斯分析方法
- 外文名：Bayesian Analysis
- 屬性：貝葉斯學習的基礎
- 提出人：貝葉斯
定義,貝葉斯理論基礎,貝葉斯定理,
定義
計算後驗分布期望的傳統數值計算方法是數值積分、拉普萊斯近似計算和蒙特卡洛（Monte Carlo）重要抽樣。目前，MCMC方法，即馬爾可夫鏈——蒙特卡羅(Markov chain Monte Carlo)方法已經變成了非常流行的貝葉斯計算方法。一方面是由於它處理非常複雜問題的效率，另一方面是因為它的編程方法相對容易。
貝葉斯分析方法（Bayesian Analysis）提供了一種計算假設機率的方法，這種方法是基於假設的先驗機率、給定假設下觀察到不同數據的機率以及觀察到的數據本身而得出的。其方法為，將關於未知參數的先驗信息與樣本信息綜合，再根據貝葉斯公式，得出後驗信息，然後根據後驗信息去推斷未知參數的方法。
在貝葉斯統計理論中，統計推斷中的相關量均作為隨機量對待，而不考慮其是否產生隨機值。機率被理解為基於給定信息下對相關量不完全了解的程度，對於具有相同可能性的隨機事件認為具有相同的機率。在進行測量不確定度的貝葉斯評定時，與測量結果推斷或不確是度評定相關的每一個物理量均被分配一個隨機變數，分布寬度常用標準差表示，反映了對未知真值了解的程度。
按照貝葉斯理論，與測量或相關評定工作有關的每一個物理量均被分配一個隨機變數，儘管每一個估計量和它所表示的相關被測量是不相同的，但它是用來估計被測量的待定真值的。為了簡單起見，估計量、估計量的值和該被測量均用相同的符號表示，如用
表示樣本，同時也用它表示樣本值，這可從上下文區別，不會發生混淆，因為樣本是隨機變數，而樣本值是一些常量，這與經典統計理論是不同的。
貝葉斯理論基礎
經典統計在對隨機分布參數進行參數估計時，假定待估計參數是未知常數，並認定這些參數的信息僅由樣本攜帶，於是通過對樣本“毫無偏見”的加工來獲得參數估計。由於估計量可能有不完善之處，估計誤差在所難免，因此經典統計理論中用置信區間表示這些誤差的大小。
在對機率的理解上，經典統計認為機率就是頻率的穩定值。一旦離開了重複試驗，就談不上去理解機率。因此要精確估計上述參數，必須保證有大量的數據樣本，但在工程中實測數據畢竟有限。另外，統計抽樣時所要求的樣本獨立同分布的條件也很難滿足。
貝葉斯統計理論在估計隨機分布參數時，認為待估計參數是隨機變數，存在機率分布。貝葉斯方法對機率的理解是人們對某些事件的一種信任程度，是對事物的不確定性的一種主觀判斷，與個人因素等有關，，故稱之為主觀機率。貝葉斯統計中的先驗分布反映的就是人們對於待估計參數的主觀機率。為了在小樣本量下能獲得較好的參數估計，就必須利用參數的歷史資料或先驗知識。在進行參數估計時，貝葉斯學派認為後驗分布綜合了先驗和樣本的知識，可以對參數作出較先驗分布更合理的估計，故其參數估計都是建立在後驗分布基礎上的，該方法對研究除觀測數據外還具備較多信息的情況特別有效。
貝葉斯定理
貝葉斯定理儘管貝葉斯方法與經典統計方法有很大的不同，但在大樣本條件下，由這兩種方法估計出的參數是一致的。而在小樣本的情況下，貝葉斯方法可充分利用各種信息，結果更為可靠。
貝葉斯方法的特點是能充分利用現有信息，如總體信息、經驗信息和樣本信息等，將統計推斷建立在後驗分布的基礎上。這樣不但可以減少因樣本量小而帶來的統計誤差，而且在沒有數據樣本的情況下也可以進行推斷。
貝葉斯理論是貝葉斯分析的基本工具，是以全機率法則為依據建立的。
貝葉斯定理
設
是不相交事件，即
；並且
，設必然事件
，
。於是我們有：
這樣，必然事件
被分為m個不相交的子事件，事件B的條件機率即為給定每一個子事件
下事件B的條件機率之和。於是，給定事件B(P(B)>0)，事件
的條件機率可以寫為：
這個表達式就是貝葉斯定理。
