最小方差無偏估計

最小方差無偏估計

統計學上, 最小方差無偏估計(minimum-variance unbiased estimator,簡寫為MVUE)是一個對於所有無偏估計中,擁有最小方差的無偏估計。若無論真實參數值θ是多少,最小方差無偏估計(MVUE)都比其他不偏估計有更小或至多相等的方差,則稱此估計為一致最小方差無偏估計(uniformly minimum-variance unbiased estimator,簡寫為UMVUE)。

基本介紹

  • 中文名:最小方差無偏估計
  • 外文名:minimum-variance unbiased estimator
  • 縮寫:MVUE
  • 特點:擁有最小方差的無偏估計
  • 領域:統計學
原理介紹,評估器選擇,例子,其它例子,

原理介紹

為參數函式
的一個無偏估計,且對於參數函式
的任一無偏估計
恆有下列關係
則稱
為參數函式
的一致最小方差無偏估計(UMVUE)。

若參數函式
存在無偏估計,則可證明出一致最小方差無偏估計存在且只有一個。
一般地,設
是參數函式
的無偏估計且統計量
是分布族的完備充分統計量,則
是參數函式
的一致最小方差無偏估計(UMVUE)。

評估器選擇

不需要存在有效的估計量,但如果確實如此,並且如果它是無偏的,那么它就是MVUE。 由於估計量δ的均方誤差(MSE)是
MVUE使無偏估計中的MSE最小化。 在某些情況下,偏差估計量的MSE較低,因為它們的方差小於任何無偏估計量。

例子

考慮將數據作為單個觀察,來自
上具有密度的絕對連續分布
我們希望找到UMVU的估算器
首先,我們了解到密度可以寫成
這是一個指數族,具有足夠的統計量
。實際上這是一個滿秩指數族,因此
足夠完整。
因此,
在這裡,我們使用Lehmann-Scheffé定理得到MVUE
顯然
是無偏並且
足夠完整,因此UMVU估算器是
這個例子說明了完整的充分統計量的無偏函式將是UMVU,正如Lehmann-Scheffé定理所述。

其它例子

對於具有未知均值和方差的常態分配,樣本均值和(無偏)樣本方差是總體均值和總體方差的MVUE。
然而,樣本標準偏差對於總體標準偏差不是無偏的。
此外,對於其他分布,樣本均值和樣本方差通常不是MVUE - 對於具有未知上限和下限的均勻分布,中間範圍是總體均值的MVUE。
如果在具有未知上限N的集合{1,2,...,N}上從離散均勻分布中選擇k個樣本(沒有替換),則N的MVUE是
其中m是樣本最大值。 這是樣本最大值的縮放和移位(如此無偏)變換,這是一個足夠和完整的統計量。

相關詞條

熱門詞條

聯絡我們