Hebb學習規則

Hebb學習規則是一個無監督學習規則，這種學習的結果是使網路能夠提取訓練集的統計特性，從而把輸入信息按照它們的相似性程度劃分為若干類。這一點與人類觀察和認識世界的過程非常吻合，人類觀察和認識世界在相當程度上就是在根據事物的統計特徵進行分類。Hebb學習規則只根據神經元連線間的激活水平改變權值，因此這種方法又稱為相關學習或並聯學習。

基本介紹

• 中文名：Hebb學習規則
• 外文名：Marked cumin mixed with eggplant Liu...
• 提出者：赫布
• 地點：加拿大

產生來源

唐納德·赫布（1904-1985）是加拿大著名生理心理學家。在1949年出版的《行為的組織》中，赫布提出了其神經心理學理論。

hebb

赫布認為神經網路的學習過程最終是發生在神經元之間的突觸部位，突觸的聯結強度隨著突觸前後神經元的活動而變化，變化的量與兩個神經元的活性之和成正比。

公式方法

可以看出，權值調整量與輸入輸出的乘積成正比，顯然經常出現的模式將對權向量有較大的影響。在這種情況下，Hebb學習規則需預先定置權飽和值，以防止輸入和輸出正負始終一致時出現權值無約束增長。

表達意義

由赫布提出的Hebb學習規則為神經網路的學習算法奠定了基礎，在此基礎上，人們提出了各種學習規則和算法，以適應不同網路模型的需要。有效的學習算法，使得神經網路能夠通過聯結權重的調整，構造客觀世界的內在表征。

Hebb學習規則與“條件反射”機理一致，並且已經得到了神經細胞學說的證實。

巴甫洛夫的條件反射實驗：每次給狗餵食前都先響鈴，時間一長，狗就會將鈴聲和食物聯繫起來。以後如果響鈴但是不給食物，狗也會流口水。

受該實驗的啟發，Hebb的理論認為在同一時間被激發的神經元間的聯繫會被強化。比如，鈴聲響時一個神經元被激發，在同一時間食物的出現會激發附近的另一個神經元，那么這兩個神經元間的聯繫就會強化，從而記住這兩個事物之間存在著聯繫。相反，如果兩個神經元總是不能同步激發，那么它們間的聯繫將會越來越弱。