憶阻器模型及其在人工神經網(wǎng)絡的應用.pdf

1、人腦作為一個高效的神經網(wǎng)絡，一直是人工神經網(wǎng)絡模擬的目標。但由于網(wǎng)絡規(guī)模和突觸元件的制約，人工神經網(wǎng)絡的功能受到了極大的限制。憶阻器的出現(xiàn)，為人工神經網(wǎng)絡從電路上模擬人腦提供了可能。首先，憶阻器的納米級尺寸、低耗能使得憶阻器可以實現(xiàn)人腦的高密度分布；其次，憶阻器的記憶性使得憶阻器可以實現(xiàn)突觸的可塑性；第三，憶阻器新發(fā)現(xiàn)的各種遺忘特性、STDP（Spike time dependent plasticity）特性使得神經網(wǎng)絡可以具有更多與

2、人腦相似的功能。憶阻器是一個天然的突觸，而基于憶阻器創(chuàng)建的神經網(wǎng)絡，也即憶阻神經網(wǎng)絡，將使人工智能達到一個全新的高度。本文重點研究憶阻器數(shù)學模型的建立和分析、憶阻神經網(wǎng)絡的構建和應用，具體內容分為以下四個方面：
　?、賾涀杵骺赡婺Ｐ偷脑O計與分析
　　憶阻器作為新興元件，其特性和內部機制自發(fā)現(xiàn)以來一直處于實驗室研究階段。隨著不同材料憶阻器的發(fā)現(xiàn)，各種不同的憶阻器轉換機制和數(shù)學模型也相繼提出，但這些提出的憶阻器轉換機制和數(shù)學模型

3、只對應特定類型的憶阻器，不能同時描述不同類型的憶阻器。我們通過對各種不同憶阻器物理機制和數(shù)學模型的分析，首次建立一個理論上的可逆模型，同時對各種不同類型的憶阻器，比如單極憶阻器，雙極憶阻器，具有遺忘效應的雙極憶阻器，單雙極可逆的憶阻器等，進行模擬和仿真。這個可逆模型可以使研究人員脫離特定憶阻器模型的束縛，更好的對憶阻神經網(wǎng)絡加以研究。
　　②具有STDP特性的憶阻器模型及應用
　　STDP特性是在生物神經系統(tǒng)中新發(fā)現(xiàn)的學習規(guī)

4、則，即權重的增加或者降低只與激活時間相關，與神經元的興奮強度無關，通常被認為是HEBB學習規(guī)則的補充?？蒲腥藛T通過對實物憶阻器的頂電極和底電極施加電壓，發(fā)現(xiàn)憶阻器的阻值變化也具有STDP特性。不過憶阻器所表現(xiàn)出的STDP特性是由電信號作用后生成的突觸后電流導致還是由憶阻器自身阻值非線性變化特性導致并不能確定。本文通過一個簡易模型證明憶阻器自身的阻值變化便具有 STDP特性，同時考慮到突觸后電流的存在，通過外加信號便可實現(xiàn)對 STDP學習

5、規(guī)則的控制，比如控制對稱憶阻器（阻值增加和降低對稱變化的憶阻器），和非對稱憶阻器（阻值增加和降低非對稱變化的憶阻器，一般是負向電流受抑制，也即是整流效應）的STDP曲線。具有STDP特性的憶阻器構建的神經網(wǎng)絡，可實現(xiàn)序列學習和預測。
　?、劬哂袑W習和糾錯能力的憶阻神經網(wǎng)絡
　　傳統(tǒng)的聯(lián)想神經網(wǎng)絡一般只研究網(wǎng)絡的學習能力，比如著名的巴甫洛夫聯(lián)想記憶實驗，狗通過學習訓練建立起鈴聲和食物之間的聯(lián)想記憶。但這個實驗有個漏洞，即忽略了

6、網(wǎng)絡的糾錯能力，比如，當鈴聲和食物之間的聯(lián)想記憶成為錯誤反應時，網(wǎng)絡該如何對錯誤的聯(lián)想進行自動糾正的能力。本文以惠普實驗室提出的荷控憶阻器模型作為突觸，采用多閾值神經元構建神經網(wǎng)絡，并利用最大輸入反饋（MIF）學習規(guī)則，重新實現(xiàn)同時具有學習和糾錯能力的巴甫洛夫實驗，表明憶阻器可以作為突觸對傳統(tǒng)神經網(wǎng)絡進行改進和革新。
　?、芫哂袌D片存儲和學習能力的憶阻神經網(wǎng)絡
　　憶阻器作為納米級的存儲設備，自身便可以實現(xiàn)對圖片的存儲，而且

7、由于其阻值的連續(xù)性，憶阻器不僅可以直接存儲二值圖片，還可以實現(xiàn)任意灰度級數(shù)的圖片存儲。而相應的，以憶阻器構建的神經網(wǎng)絡，不僅可以直接存儲和學習二值圖片，還可以存儲和學習灰度圖。本文構建多層憶阻神經網(wǎng)絡，以CMOS電路單元作為神經元，以憶阻交叉架構作為突觸矩陣，引入圖片疊加去噪技術，對二值圖片和灰度圖片進行存儲、學習、特征提取和識別。由于憶阻器的特性因材料而不同，我們以惠普遷移模型和閾值模型來表示不同的憶阻器，設計相應的電路架構和仿真，進