變數選擇

變數選擇是指擬合多元回歸方程(包括線性和非線性)的自變數選擇、擬合判別函式的判別指標(變數)選擇等。現以擬合多元線性回歸方程來說明。是要從m個自變數中選擇m′(m′≤m)個自變數，擬合最優或較理想的多元線性回歸方程。一般來說，m越大，m′會越小於m。擬合多元線性回歸方程的用途是由自變數解釋和預報應變數，篩選自變數的目的是使上述兩大用途的實際效果更好：1.選擇對應變數作最好的一組自變數。其著眼點是擬合回歸方程的一組自變數整體，用該組自變數應使回歸方程擬合得最好。2.選擇對應變數作最好解釋的主要自變數。其著眼點是引入回歸方程的一組自變數的每個自變數，引入回歸方程的各自變數對應變數的作用應有顯著性(回歸方程外的各自變數對應變數的作用無顯著性)。

在回歸分析的實際套用中，改進預報效果和改進解釋效果，研究者有時希望達到這兩個目的，有時只關心或偏重這兩個目的中的一個。變數選擇的方法分成兩大類：最優子集回歸法著眼於選擇一組使回歸方程擬合得最好的自變數；逐步回歸法著眼於選擇對應變數作用有顯著性的主要自變數。