1. 簡述神經網絡的基本特征和基本功能
答:基本特征:(A)非線性,人工神經網絡處于激活狀態(tài)或者抑制狀態(tài),變現出非線性的特征,可以提高容錯性和存儲容量(B)非局限性,一個神經網絡可以由多個神經網絡構成,一個系統(tǒng)不僅取決于單個神經網絡特點,還取決于單元之間的相互作用。(C)非常定性,神經網絡可以自適應,自組織,自學習,處理信息的有各種變化的同時,系統(tǒng)自身也在變化。(D)非凸性,一個系統(tǒng)的演化方向,在一定條件下取決于摸個特定的額轉臺函數。非凸性是指這種函數有多個機智,故系統(tǒng)具有多個穩(wěn)定的平衡狀態(tài),導致演化的多樣性。
基本功能:(1)聯想記憶(2)非線性映射(3)分類和識別(4)知識處理(5)優(yōu)化計算(6)優(yōu)化處理(7)模式識別(8)數據壓縮
2. 神經網絡的模型分為哪幾類,試述神經網絡的典型結構?
3. 感知器神經網絡存在的主要缺陷是什么?
答: (1)由于感知器的激活函數采用的是閥值函數,輸出矢量只能取0或1,所以只能用它來解決簡單的分類問題;
(2)感知器僅能夠線性地將輸入矢量進行分類。理論上已經證明,只要輸人矢量是線性可分的,感知器在有限的時間內總能達到目標矢量;
(3)感知器還有另外一個問題,當輸入矢量中有一個數比其他數都大或小得很多時,可能導致較慢的收斂速度。
4.比較前饋型神經網絡與反饋型神經網絡的異同點。
答:前饋型神經網絡只表達輸入輸出之間的映射關系,實現非線性映射;反饋型神經網絡考慮輸入輸出之間在時間上的延遲,需要用動態(tài)方程來描述,反饋型神經網絡是一個非線性動力學系統(tǒng)。
(1)前饋型神經網絡的學習訓練主要采用BP算法,計算過程和收斂速度比較慢;反饋型神經網絡的學習主要采用Hebb規(guī)則,一般情況下計算的收斂速度很快,并且它與電子電路有明顯的對應關系,使得網絡易于用硬件實現。
(2)前饋型神經網絡學習訓練的目的是快速收斂,一般用誤差函數來判定其收斂程度;反饋型神經網絡的學習目的是快速尋找到穩(wěn)定點,一般用能量函數來判別是否趨于穩(wěn)定點。
(3)兩者都有局部極小問題。
(4)隱節(jié)點的選取缺乏理論支持;
(5)訓練時學習新樣本有遺忘舊樣本趨勢。
5.BP算法的基本思想是什么,它存在的不足之處?
答:BP算法(即反向傳播法)的基本思想是:學習過程由信號的正向傳播與誤差的反向傳播兩個過程組成。
不足之處:局部極小化問題、收斂速度慢、結構選擇不一、預測能力和訓練能力存在矛盾、樣本存在依賴性。
6. 人腦神經元的基本結構與功能。
答:人腦神經元的基本結構包括細胞體和突起兩部分.神經元的突起一般包括一條長而分支少的軸突和數條短而呈樹枝狀分支的樹突,軸突以及套在外面的髓鞘叫神經纖維,神經纖維末端的細小分支叫神經末梢,神經末梢分布在全身各處。
人腦神經元的功能:信息整合功能、接受刺激、信息儲存功能、傳遞信息。
7.BP算法的缺陷及改進方案?
答:BP算法的缺陷:(1)易形成局部極小(屬貪婪算法,局部最優(yōu))而得不到全局最優(yōu);(2)BP算法可以使網絡權值收斂到一個解,但它并不能保證所求為誤差超平面的全局最小解,很可能是一個局部極小解;(3)訓練次數多使得學習效率低下,收斂速度慢(需做大量運算)。
改進方案:對于一些復雜的問題,BP算法可能要進行幾小時甚至更長的時間的訓練。這主要是由于學習速率太小所造成的??刹捎米兓膶W習速率或自適應的學習速率來加以改進。
8.什么稱為神經網絡過學習?
答:當已知訓練樣本的數據加到網絡輸入端時,網絡的學習機制一遍又一遍地調整各神經元的權值,使其輸出端超過預定的目標,這一過程稱為神經網絡過學習。
9. 什么稱為有監(jiān)督學習?
答:在監(jiān)督學習中,我們獲得了一個數據集,并且已經知道我們正確的輸出應該是什么樣子的,這意味著輸入和輸出之間有一個關系。即監(jiān)督學習其實是我們對輸入樣本經過模型訓練后有明確的預期輸出。
10. 簡述Hebb學習規(guī)則。
答:如果兩個神經元同時興奮(即同時被激活),則它們之間的突觸連接加強。如果用、表示神經元i和j的激活值(輸出),表示兩個神經元之間的連接權,則Hebb學習規(guī)則可以表示為: ,這里表示學習速率。Hebb學習規(guī)則是人工神經網絡學習的基本規(guī)則,幾乎所有神經網絡的學習規(guī)則都可以看作Hebb學習規(guī)則的變形。
11. 簡述自學習、自組織與自適應。
答:神經網絡結構上的特征是處理單元的高度并行性與分布性,這種特征使神經網絡在信息處理方面具有信息的分布存儲與并行計算而且存儲與處理一體化的特點。而這些特點必然給神經網絡帶來較快的處理速度和較強的容錯能力。能力方面的特征是神經網絡的自學習、自組織與自性適應性。自適應性是指一個系統(tǒng)能改變自身的性能以適應環(huán)境變化的能力,它包含自學習與自組織兩層含義。自學習是指當外界環(huán)境發(fā)生變化時,經過一段時間的訓練或感知,神經網絡能通過自動調整網絡結構參數,使得對于給定輸入能產生期望的輸出。自組織是指神經系統(tǒng)能在外部刺激下按一定規(guī)則調整神經元之間的突觸連接,逐漸構建起神經網絡。也就是說自組織神經元的學習過程,完全是一種自我學習的過程,不存在外部教師的示教。
12.簡述卷積神經網絡工作原理?
答:常用的CNN神經網絡大致由:卷積層,激活函數池化層和全連接層組成。這里以圖像處理為例。第一層卷積層的作用:通過卷積濾波器(filters)對輸入的信息做卷積,比如輸入的是圖像信息,采集圖像的特征信息。第二層,激活函數,讓卷積層提取的圖像特征信息更加明顯。第三次,池化層:當經過卷積層之后的數據的處理量是相當巨大的,因此很容易產生過擬合,因此要降低網絡的訓練參數和模型的擬合度,因此對處理后的數據進行池化處理,常用的池化方法,max-pooling和mean-pooling。最后一層全連接層,對前面采集的特征信息做分類處理。
13.人工神經網絡是模擬生物神經網絡的產物,除相同點外,它們還存在哪些主要區(qū)別?
答:1.單元上的差別 對于生物神經元而言,影響突觸傳遞信息強度的因素很多、很復雜。如突觸前微細胞的大小與多少、神經傳遞化學物質含量的多少、神經傳遞化學物質釋放的速度、突觸間隙的變化、樹突的位置與大小等諸多因素都會對突觸電位產生影響,從而影響神經元的輸出脈沖響應。而人工神經元則忽略了這些影響,輸入、輸出關系十分簡單。
2.信息上的差別 生物神經元傳遞的信息是脈沖,而人工神經元傳遞的信息是模擬電壓。
3.規(guī)模與智能上的差別 目前,人工神經網絡的規(guī)模還遠小于生物神經網絡,網絡中神經元的數量一般在104個以下,顯然,其智能也無法與生物神經網絡相比。
14.BP和Hopfield有何區(qū)別?
答:BP網絡是誤差反向傳播網絡,屬于多層感知器網絡,輸入和輸出節(jié)點數根據需要設置,可用于模式識別,分類,預測等,hopfield神經網絡屬于無監(jiān)督學習神經元網絡,網絡是單層反饋網絡,有連續(xù)性和離散型之分。
聯系客服