模型無偏

統計學中,估計量偏差(或偏差函式)是此估計量的期望值與估計參數的真值之差。偏差為零的估計量或決策規則稱為無偏的。否則該估計量是有偏的。在統計中,“偏差”是一個函式的客觀陳述。

基本介紹

  • 中文名:模型無偏
  • 領域:統計學
簡介,定義,參見,

簡介

統計學中,估計量偏差(或偏差函式)是此估計量的期望值與估計參數的真值之差。偏差為零的估計量或決策規則稱為無偏的。否則該估計量是有偏的。在統計中,“偏差”是一個函式的客觀陳述。
偏差也可以相對於中位數來衡量,而非相對於均值(期望值),在這種情況下為了與通常的均值無偏性區別,稱作中值無偏。偏差與一致性相關聯,一致估計量都是收斂並且漸進無偏的(因此會收斂到正確的值),雖然一致序列中的個別估計量可能是有偏的(只要偏差收斂於零);參見偏差與一致性。
當其他量相等時,無偏估計量比有偏估計量更好一些,但在實踐中,並不是所有其他統計量的都相等,於是也經常使用有偏估計量,一般偏差較小。當使用一個有偏估計量時,也會估計它的偏差。有偏估計量可能用於以下原因:由於如果不對總體進一步假設,無偏估計量不存在或很難計算(如標準差的無偏估計);由於估計量是中值無偏的,卻不是均值無偏的(或反之);由於一個有偏估計量較之無偏估計量(特別是收縮估計量)可以減小一些損失函式(尤其是均方差);或者由於在某些情況下,無偏的條件太強,而這些無偏估計量沒有太大用處。此外,在非線性變換下均值無偏性不會保留,不過中值無偏性會保留(參見變換的效應);例如樣本方差是總體方差的無偏估計量,但它的平方根標準差則是總體標準差的有偏估計量。下面會進行說明。

定義

設我們有一個參數為實數θ機率模型,產生觀測數據的機率分布
,而統計量
是基於任何觀測數據x下θ估計量。也就是說,我們假定我們的數據符合某種未知分布
(其中θ是一個固定常數,而且是該分布的一部分,但具體值未知),於是我們構造估計量
,該估計量將觀測數據與我們希望的接近θ的值對應起來。因此這個估量的(相對於參數θ的)偏差定義為
其中
表示分布
期望值,即對所有可能的觀測值x取平均。由於θ對於條件分布
是可測的,就有了第二個等號。
對於參數θ的所有值的偏差都等於零的估計量稱為無偏估計量。
在一次關於估計量性質的模擬實驗中,估計量的偏差可以用平均有符號離差來評估。

參見

相關詞條

熱門詞條

聯絡我們