卷積參數

卷積參數指的是在深度學習中傳遞層裡面的卷積層函式所擁有的參數,包括激活,傳遞等作用。

基本介紹

  • 中文名:卷積參數
  • 套用領域:深度學習
  • 作用:激活,傳遞等
卷積神經網路的特點,卷積過程,訓練過程,

卷積神經網路的特點

1、Deep Learning強大的地方就是可以利用網路中間某一層的輸出當做是數據的另一種表達,從而可以將其認為是經過網路學習到的特徵。基於該特徵,可以進行進一步的相似度比較等。
2、Deep Learning算法能夠有效的關鍵其實是大規模的數據,這一點原因在於每個DL都有眾多的參數,少量數據無法將參數訓練充分。(當數據量少的時候是不適合使用多層網路的,因為一不同意將參數訓練充分,二容易產生過擬合)。

卷積過程

1. 輸入圖像通過和三個可訓練的濾波器和可加偏置進行卷積,濾波過程如圖1,卷積後在C1層產生三個特徵映射圖
2. 然後特徵映射圖中每組的4個像素再進行求和,加權值,加偏置,通過一個Sigmoid函式得到三個S2層的特徵映射圖。
3. 這些映射圖再進過濾波得到C3層。
4. 這個層級結構再和S2一樣產生S4。
5. 最終,這些像素值被光柵化,並連線成一個向量輸入到傳統的神經網路,得到輸出。

訓練過程

神經網路用於模式識別的主流是有指導學習網路,無指導學習網路更多的是用於聚類分析。對於有指導的模式識別,由於任一樣本的類別是已知的,樣本在空間的分布不再是依據其自然分布傾向來劃分,而是要根據同類樣本在空間的分布及不同類樣本之間的分離程度找一種適當的空間劃分方法,或者找到一個分類邊界,使得不同類樣本分別位於不同的區域內。這就需要一個長時間且複雜的學習過程,不斷調整用以劃分樣本空間的分類邊界的位置,使儘可能少的樣本被劃分到非同類區域中。
卷積網路在本質上是一種輸入到輸出的映射,它能夠學習大量的輸入與輸出之間的映射關係,而不需要任何輸入和輸出之間的精確的數學表達式,只要用已知的模式對卷積網路加以訓練,網路就具有輸入輸出對之間的映射能力。卷積網路執行的是有導師訓練,所以其樣本集是由形如:(輸入向量,理想輸出向量)的向量對構成的。所有這些向量對,都應該是來源於網路即將模擬的系統的實際“運行”結果。它們可以是從實際運行系統中採集來的。在開始訓練前,所有的權都應該用一些不同的小隨機數進行初始化。“小隨機數”用來保證網路不會因權值過大而進入飽和狀態,從而導致訓練失敗;“不同”用來保證網路可以正常地學習。實際上,如果用相同的數去初始化權矩陣,則網路無能力學習。

相關詞條

熱門詞條

聯絡我們