無偏估計量

無偏估計量

對於待估參數,不同的樣本值就會得到不同的估計值。這樣,要確定一個估計量的好壞,就不能僅僅依據某次抽樣的結果來衡量,而必須由大量抽樣的結果來衡量。對此,一個自然而基本的衡量標準是要求估計量無系統偏差。也就是說,儘管在一次抽樣中得到的估計值不一定恰好等於待估參數的真值,但在大量重複抽樣時,所得到的估計值平均起來應與待估參數的真值相同,換句話說,希望估計量的均值數學期望)應等於未知參數的真值,這就是所謂無偏性(Unbiasedness)的要求。數學期望等於被估計的量的統計估計量稱為無偏估計量。

基本介紹

  • 中文名:無偏估計量
  • 外文名:unbiased estimator
  • 適用範圍:數理科學
  • 套用:數理統計
  • 作用:判斷估計量的優劣
定義,實際意義,結論,結論一,結論二,套用,

定義

是來自總體X的一個樣本,θ是包含在總體X的分布中的待估參數。
若估計量
的數學期望
存在,且有
,則稱
是θ的無偏估計量。

實際意義

在科學技術中,
稱為以
作為θ的估計的系統誤差,無偏估計的實際意義就是無系統誤差
例如,設總體X的均值𝜇及方差σ2都存在但均未知,因為
,這就是說不論總體服從什麼分布,其樣本均值是總體均值的無偏估計,樣本方差是總體方差的無偏估計。若
,則稱
是θ的漸進無偏估計量。

結論

結論一

設總體X的k階中心矩
存在,
是X的一個樣本,不論X服從什麼分布,
的無偏估計量。特別地,不論X服從什麼分布,只要E(X)存在,
總是E(X)的無偏估計。
證明
因為
與X同分布,所以

結論二

對於總體X,設E(X)=𝜇,D(X)=σ2都存在,且σ2>0,若𝜇,σ2均未知,則σ2的估計量
是有偏的。另一方面,由於
,所以
是σ2的漸進無偏估計量。
證明
因為
,而
所以
是σ2有偏估計
若在
的兩邊同乘
,即
,而
可見樣本方差S2可以作為方差σ2的估計,而且是無偏估計。因此常用S2作為方差σ2的估計量。從無偏估計量的角度考慮,S2比二階中心矩作為
的估計好。

套用

在實際套用中,對整個系統(整個實驗)而言無系統偏差,就一次實驗來講,
可能偏大也可能偏小,實質上並說明不了什麼問題,只是平均來說它沒有偏差,所以無偏性只有在大量的重複實驗中才能體現出來;另一方面,無偏估計只涉及一階矩(均值),雖然計算簡便,但往往會出現一個參數的無偏估計有多個,而無法確定哪個估計量好。因此,無偏性的作用在於可以把重複估計中的各次誤差通過平均來消除。這並不意味著該估計量在一次使用時並能獲得良好的結果。在具體問題中,無偏性是否合理,應當結合具體情況來考慮。在有些問題中,無偏性的要求可能會導出不同的結果來。
事實上,
中的每一個均可作為θ的無偏估計量,究竟哪個估計量更合理,就看哪個估計量的觀察值更接近真實值,即估計量的觀察值更密集地分布在真實值附近。而方差能反映隨機變數取值的分散程度,所以無偏估計以方差最小者為最好、最合理,為此後人引進了估計量的有效性概念。

相關詞條

熱門詞條

聯絡我們