異聯想記憶

聯想記憶是大腦的一個重要的生物特徵，與人腦類似，聯想記憶神經網路把一些樣本模式存儲在神經元之間的權值中，利用大規模的並行計算，能夠使原本不完整的輸入模式逐漸地恢復到完整的模式。它分為兩種工作方式：自聯想記憶和異聯想記憶。異聯想記憶是指由輸入模式獲得與之相關的其他模式，其輸出與輸入不等。

基本介紹

• 中文名：異聯想記憶
• 外文名：Hetero-associative memory
• 學科：控制科學與工程
• 類別：聯想記憶
• 套用：神經網路模型
• 特點：輸出與輸入不等

基本概念

聯想記憶是大腦的一個重要的生物特徵，與人腦類似，聯想記憶神經網路把一些樣本模式存儲在神經元之間的權值中，利用大規模的並行計算，能夠使原本不完整的輸入模式逐漸地恢復到完整的模式。它分為兩種工作方式：自聯想記憶和異聯想記憶。自聯想是指由受損的輸入模式恢復到完整的模式本身，異聯想是指由輸入模式獲得與之相關的其他模式。

異聯想記憶是聯想記憶的一種類型，其輸入與輸出不等。自聯想神經網路(Auto-Associative Neural Network，縮寫為AANN)是1992年Kramer提出的，是BP神經網路的一種特殊情形，其特點是有對稱拓撲結構，即輸出量等於輸入量。異聯想記憶與自聯想類似，不同之處在於輸出與輸入不等。

異聯想記憶模型的描述

假設異聯想記憶模型的X-域和Y-域分別包括N和P個神經元，每個神經元的狀態值為+1 或-1，即

在神經元和間, 有一連線權值。眾所周知，聯想記憶神經元網路的操作包括兩個步驟。首先，由學習算法根據訓練模式集確定神經元間的連線權，然後是一個聯想過程，其中學習算法是關鍵性的一步。

令表示M 個訓練模式，通常連線權矩陣W=是由相關學習規則定義

其中和分別表示訓練模式和的第i個和第j個分量。在聯想過程中，對於和 ，其動態演化規則分別是

其中和分別是和下一時刻的狀態。非線性函式sgn(x)=+1若x>=0，sgn(x)=-1若x<0。給定任意一個初始輸入狀態，可以產生一個有限順序列，直到穩定在某個平衡狀態，其中

其中T是轉置。可以證明，對於任意矩陣W，異聯想記憶模型是穩定的，也就是說，由任意初始狀態出發，按照聯想序列，神經元網路可以在有限次狀態改變後收斂於某個穩定狀態。

異聯想記憶Hopfield神經網路

作為對生物神經系統的模擬，人工神經元網路是由大量神經元相互連線而成的動力學系統，具有大規模並行處理、容錯性以及學習能力的特點。異聯想記憶神經元網路是一個兩層非線性神經元模型，具有信息存儲和信息聯想特點，其性能由學習算法決定。學習算法根據某種規則將訓練模式集轉化為神經元間的連線權值，形成神經元網路的內部表達方式。作為內容可訪問存儲器，異聯想記憶模型具有從噪聲輸人模式反映出某個訓練模式的能力。

異聯想記憶Hopfield神經網路模型結構如下圖所示：

它將全部神經元分成兩類：一類是輸入神經元即狀態集S(s1,s2,s3,s4)，另一類是輸出神經元即動作A(a1,a2,a3,a4,a5,a6)。s1,s2,s3,s4分別代表狀態：正前方一步內沒有障礙，左前方一步內有障礙，右前方一步內有障礙，正前方一步內有障礙。a1,a2,a3,a4,a5,a6分別代表動作：直走，右前進，左前進，後退，右平移，左平移。

輸出神經元不反饋到自身，之反饋到輸入神經元的輸入端，權值連線為，輸入神經元的輸出也不反饋到其自身，而是只反饋到神經元的輸入端，這種異反饋連線的離散神經網路的表達式可用下式表示：

在用Hopfield NN來實現異聯想記憶模式識別時，存在兩方面的困難：一是異聯想記憶模式識別問題，其一組輸入矢量對應著一組輸出矢量，即輸入和輸出代表不同的物理含義，應該用不同的神經元來表示；二是為實現屬於模式識別問題所構造的原型樣本是按照套用系統的具體情況來建立的，它們在狀態空間的分布不能保證是均勻的，更不可能滿足正交的條件。