高斯—馬爾可夫定理

高斯—馬爾可夫定理

高斯—馬爾可夫定理(Gauss–Markov theory)是指在給定經典線性回歸的假定下,最小二乘估計量是具有最小方差的線性無偏估計量的這一定理。

高斯--馬爾可夫定理的意義在於,當經典假定成立時,我們不需要再去尋找其它無偏估計量,沒有一個會優於普通最小二乘估計量。也就是說,如果存在一個好的線性無偏估計量,這個估計量的方差最多與普通最小二乘估計量的方差一樣小,不會小於普通最小二乘估計量的方差。

基本介紹

  • 中文名:高斯—馬爾可夫定理
  • 外文名:Gauss-Markov Assumptions
  • 套用學科:數學
  • 適用領域範圍:幾何學
高斯-馬爾可夫定理總共分為對OLS(Ordinary least square)普通線性方程有5個假設。
1.Assumption MLR.1(linear in parameters): 假設一要求所有的母集團參數(population parameters)為常數,用來保證模型為線性關係。即如果母集團方程為y=a+b1x1+b2x2+...+bkxk+u, 所有的a, b1,b2...bk必須為常數。同時u為無法檢測的誤差項,即實驗過程中模型沒有包含的因素。
2. Assumption MLR.2 (Random sampling)假設二: 假設我們有n個調查的樣本,那么這n個樣本必須是從母集團裡面隨機抽樣得出的。以假設一的方程為例,{(xi1,xi2, xi3.....xik,yi): i=1,2,3...n}
3. Assumption MLR.3 (No perfect collinearity)假設三:在樣本(母集團)中, 沒有獨立變數(independent variable)是常數,並且獨立變數之間不能有完全共線性。(根據矩陣方程的定義,方程會無解)
4. Assumption MLR.4 (Zero conditional mean)假設四: 母集團方程的誤差項的均值為 0,並且均值不受到獨立變數的影響,可以表示為:E(U/ X1, X2...Xk)=0
5.Assumption MLR.5 (Homoscedasticity): 假設五:同方差性, 誤差項u的方差不受到獨立變數的影響為一個固定不變的值,可以表示為: Var(u/X1,X2...Xk)=σ
統計學中,高斯-馬爾可夫定理是指在誤差零均值,同方差,且互不相關線性回歸模型中,回歸係數的最佳線性無偏估計就是最小方差估計。一般而言,任何回歸係數的線性組合之BLUE(Best Linear Unbiased Estimators)就是它的最小方差估計。在這個線性回歸模型中,其誤差不需要假定為常態分配或獨立同分布(而僅需要滿足相關和方差這兩個稍弱的條件)。
指在給定經典線性回歸的假定下,最小二乘估計量是具有最小方差的線性無偏估計量的這一定理。
高斯--馬爾可夫定理的意義在於,當經典假定成立時,我們不需要再去尋找其它無偏估計量,沒有一個會優於普通最小二乘估計量。也就是說,如果存在一個好的線性無偏估計量,這個估計量的方差最多與普通最小二乘估計量的方差一樣小,不會小於普通最小二乘估計量的方差。

相關詞條

熱門詞條

聯絡我們