均方誤差

均方誤差

均方誤差(mean-square error, MSE)是反映估計量與被估計量之間差異程度的一種度量。設t是根據子樣確定的總體參數θ的一個估計量,(θ-t)2數學期望,稱為估計量t的均方誤差。它等於σ2+b2,其中σ2與b分別是t的方差偏倚

基本介紹

  • 中文名:均方誤差
  • 外文名:mean-square error, MSE
  • 意義:反映估計量與被估計量差異程度
  • 相關概念:估計量、有偏估計、點估計等
名詞介紹,公式,

名詞介紹

相合估計(或一致估計)是在大樣本下評價估計量的標準,在樣本量不是很多時,人們更加傾向於基於小樣本的評價標準,此時,對無偏估計使用方差,對有偏估計使用均方誤差
一般地,在樣本量一定時,評價一個點估計的好壞標準使用的指標總是點估計
與參數真值
的距離的函式,最常用的函式是距離的平方,由於估計量
具有隨機性,可以對該函式求期望,這就是下式給出的均方誤差:
均方誤差是評價點估計的最一般的標準,自然,我們希望估計的均方誤差越小越好,注意到
上式說明,均方誤差
由點估計的方差
與偏差
的平方兩部分組成。
如果
是θ的無偏估計,則
,此時用均方誤差評價點估計與用方差是完全一致的,這也說明了用方差考察無偏估計是合理的。
不是θ的無偏估計,就要看其均方誤差
,即不僅看方差大小,還要看其偏差大小,下面的例子說明在均方誤差的含義下,有些有偏估計優於無偏估計。

公式

一致最小均方誤差估計
定義1 設有樣本
對待估參數θ,有一個估計類,稱
是該類中θ的一致最小均方誤差估計,如果對該類估計中另外任意一個θ的估計
,在參數空間
上都有
一致最小均方誤差估計通常是在一個確定的估計類中進行的,一致最小均方誤差估計一般是不存在的。
既然一致最小均方誤差估計一般是不存在的,人們通常就對估計提出一些合理性要求,如無偏性就是一個常見的合理性要求。
一致最小方差無偏估計
前面曾指出,均方誤差
由點估計的方差
與偏差
的平方兩部分組成,當
是θ的無偏估計時,均方誤差就簡化為方差,此時一致最小均方誤差估計就是一致最小方差無偏估計。
定義2
是θ的無偏估計,如果對於任意一個θ的無偏估計
,在參數空間
上都有
則稱
是θ的一致最小方差無偏估計,簡記為UMVUE。

相關詞條

熱門詞條

聯絡我們