人工神經(jīng)網(wǎng)絡(luò),是一種旨在模仿人腦結(jié)構(gòu)及其功能的信息處理系統(tǒng),就是使用人工神經(jīng)網(wǎng)絡(luò)方法實現(xiàn)模式識別.可處理一些環(huán)境信息十分復(fù)雜,背景知識不清楚,推理規(guī)則不明確的問題,神經(jīng)網(wǎng)絡(luò)方法允許樣品有較大的缺損和畸變.神經(jīng)網(wǎng)絡(luò)的類型很多,建立神經(jīng)網(wǎng)絡(luò)模型時,根據(jù)研究對象的特點,可以考慮不同的神經(jīng)網(wǎng)絡(luò)模型. 前饋型BP網(wǎng)絡(luò),即誤差逆?zhèn)鞑ド窠?jīng)網(wǎng)絡(luò)是最常用,最流行的神經(jīng)網(wǎng)絡(luò).BP網(wǎng)絡(luò)的輸入和輸出關(guān)系可以看成是一種映射關(guān)系,即每一組輸入對應(yīng)一組輸出.BP算法是最著名的多層前向網(wǎng)絡(luò)訓(xùn)練算法,盡管存在收斂速度慢,局部極值等缺點,但可通過各種改進措施來提高它的收斂速度,克服局部極值現(xiàn)象,而且具有簡單,易行,計算量小,并行性強等特點,目前仍是多層前向網(wǎng)絡(luò)的首選算法.
多層前向BP網(wǎng)絡(luò)的優(yōu)點：
網(wǎng)絡(luò)實質(zhì)上實現(xiàn)了一個從輸入到輸出的映射功能，而數(shù)學(xué)理論已證明它具有實現(xiàn)任何復(fù)雜非線性映射的功能。這使得它特別適合于求解內(nèi)部機制復(fù)雜的問題；
網(wǎng)絡(luò)能通過學(xué)習(xí)帶正確答案的實例集自動提取“合理的”求解規(guī)則，即具有自學(xué)習(xí)能力；
網(wǎng)絡(luò)具有一定的推廣、概括能力。
多層前向BP網(wǎng)絡(luò)的問題：
從數(shù)學(xué)角度看，BP算法為一種局部搜索的優(yōu)化方法，但它要解決的問題為求解復(fù)雜非線性函數(shù)的全局極值，因此，算法很有可能陷入局部極值，使訓(xùn)練失?。?/strong>
網(wǎng)絡(luò)的逼近、推廣能力同學(xué)習(xí)樣本的典型性密切相關(guān)，而從問題中選取典型樣本實例組成訓(xùn)練集是一個很困難的問題。
難以解決應(yīng)用問題的實例規(guī)模和網(wǎng)絡(luò)規(guī)模間的矛盾。這涉及到網(wǎng)絡(luò)容量的可能性與可行性的關(guān)系問題，即學(xué)習(xí)復(fù)雜性問題；
網(wǎng)絡(luò)結(jié)構(gòu)的選擇尚無一種統(tǒng)一而完整的理論指導(dǎo)，一般只能由經(jīng)驗選定。為此，有人稱神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)選擇為一種藝術(shù)。而網(wǎng)絡(luò)的結(jié)構(gòu)直接影響網(wǎng)絡(luò)的逼近能力及推廣性質(zhì)。因此，應(yīng)用中如何選擇合適的網(wǎng)絡(luò)結(jié)構(gòu)是一個重要的問題；
新加入的樣本要影響已學(xué)習(xí)成功的網(wǎng)絡(luò)，而且刻畫每個輸入樣本的特征的數(shù)目也必須相同；
網(wǎng)絡(luò)的預(yù)測能力（也稱泛化能力、推廣能力）與訓(xùn)練能力（也稱逼近能力、學(xué)習(xí)能力）的矛盾。一般情況下，訓(xùn)練能力差時，預(yù)測能力也差，并且一定程度上，隨訓(xùn)練能力地提高，預(yù)測能力也提高。但這種趨勢有一個極限，當(dāng)達到此極限時，隨訓(xùn)練能力的提高，預(yù)測能力反而下降，即出現(xiàn)所謂“過擬合”現(xiàn)象。此時，網(wǎng)絡(luò)學(xué)習(xí)了過多的樣本細節(jié)，而不能反映樣本內(nèi)含的規(guī)律
由于BP算法本質(zhì)上為梯度下降法，而它所要優(yōu)化的目標(biāo)函數(shù)又非常復(fù)雜，因此，必然會出現(xiàn)“鋸齒形現(xiàn)象”，這使得BP算法低效；
存在麻痹現(xiàn)象，由于優(yōu)化的目標(biāo)函數(shù)很復(fù)雜，它必然會在神經(jīng)元輸出接近0或1的情況下，出現(xiàn)一些平坦區(qū)，在這些區(qū)域內(nèi)，權(quán)值誤差改變很小，使訓(xùn)練過程幾乎停頓；
為了使網(wǎng)絡(luò)執(zhí)行BP算法，不能用傳統(tǒng)的一維搜索法求每次迭代的步長，而必須把步長的更新規(guī)則預(yù)先賦予網(wǎng)絡(luò)，這種方法將引起算法低效。
谷歌人工智能寫作項目：小發(fā)貓
一、計算方法不同
1、前饋神經(jīng)網(wǎng)絡(luò)：一種最簡單的神經(jīng)網(wǎng)絡(luò)，各神經(jīng)元分層排列bp神經(jīng)網(wǎng)絡(luò)的優(yōu)點和缺點。每個神經(jīng)元只與前一層的神經(jīng)元相連。接收前一層的輸出，并輸出給下一層．各層間沒有反饋。
2、BP神經(jīng)網(wǎng)絡(luò)：是一種按照誤差逆向傳播算法訓(xùn)練的多層前饋神經(jīng)網(wǎng)絡(luò)。
3、卷積神經(jīng)網(wǎng)絡(luò)：包含卷積計算且具有深度結(jié)構(gòu)的前饋神經(jīng)網(wǎng)絡(luò)。
二、用途不同
1、前饋神經(jīng)網(wǎng)絡(luò)：主要應(yīng)用包括感知器網(wǎng)絡(luò)、BP網(wǎng)絡(luò)和RBF網(wǎng)絡(luò)。
2、BP神經(jīng)網(wǎng)絡(luò)：
（1）函數(shù)逼近：用輸入向量和相應(yīng)的輸出向量訓(xùn)練一個網(wǎng)絡(luò)逼近一個函數(shù)；
（2）模式識別：用一個待定的輸出向量將它與輸入向量聯(lián)系起來；
（3）分類：把輸入向量所定義的合適方式進行分類；
（4）數(shù)據(jù)壓縮：減少輸出向量維數(shù)以便于傳輸或存儲。
3、卷積神經(jīng)網(wǎng)絡(luò)：可應(yīng)用于圖像識別、物體識別等計算機視覺、自然語言處理、物理學(xué)和遙感科學(xué)等領(lǐng)域。
聯(lián)系：
BP神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)都屬于前饋神經(jīng)網(wǎng)絡(luò)，三者都屬于人工神經(jīng)網(wǎng)絡(luò)。因此，三者原理和結(jié)構(gòu)相同。
三、作用不同
1、前饋神經(jīng)網(wǎng)絡(luò)：結(jié)構(gòu)簡單，應(yīng)用廣泛，能夠以任意精度逼近任意連續(xù)函數(shù)及平方可積函數(shù)．而且可以精確實現(xiàn)任意有限訓(xùn)練樣本集。
2、BP神經(jīng)網(wǎng)絡(luò)：具有很強的非線性映射能力和柔性的網(wǎng)絡(luò)結(jié)構(gòu)。網(wǎng)絡(luò)的中間層數(shù)、各層的神經(jīng)元個數(shù)可根據(jù)具體情況任意設(shè)定，并且隨著結(jié)構(gòu)的差異其性能也有所不同。
3、卷積神經(jīng)網(wǎng)絡(luò)：具有表征學(xué)習(xí)能力，能夠按其階層結(jié)構(gòu)對輸入信息進行平移不變分類。
擴展資料：
1、BP神經(jīng)網(wǎng)絡(luò)優(yōu)劣勢
BP神經(jīng)網(wǎng)絡(luò)無論在網(wǎng)絡(luò)理論還是在性能方面已比較成熟。其突出優(yōu)點就是具有很強的非線性映射能力和柔性的網(wǎng)絡(luò)結(jié)構(gòu)。網(wǎng)絡(luò)的中間層數(shù)、各層的神經(jīng)元個數(shù)可根據(jù)具體情況任意設(shè)定，并且隨著結(jié)構(gòu)的差異其性能也有所不同。但是BP神經(jīng)網(wǎng)絡(luò)也存在以下的一些主要缺陷。
①學(xué)習(xí)速度慢，即使是一個簡單的問題，一般也需要幾百次甚至上千次的學(xué)習(xí)才能收斂。
②容易陷入局部極小值。
③網(wǎng)絡(luò)層數(shù)、神經(jīng)元個數(shù)的選擇沒有相應(yīng)的理論指導(dǎo)。
④網(wǎng)絡(luò)推廣能力有限。
2、人工神經(jīng)網(wǎng)絡(luò)的特點和優(yōu)越性，主要表現(xiàn)在以下三個方面
①具有自學(xué)習(xí)功能。例如實現(xiàn)圖像識別時，只在先把許多不同的圖像樣板和對應(yīng)的應(yīng)識別的結(jié)果輸入人工神經(jīng)網(wǎng)絡(luò)，網(wǎng)絡(luò)就會通過自學(xué)習(xí)功能，慢慢學(xué)會識別類似的圖像。自學(xué)習(xí)功能對于預(yù)測有特別重要的意義。預(yù)期未來的人工神經(jīng)網(wǎng)絡(luò)計算機將為人類提供經(jīng)濟預(yù)測、效益預(yù)測，其應(yīng)用前途是很遠大的。
②具有聯(lián)想存儲功能。用人工神經(jīng)網(wǎng)絡(luò)的反饋網(wǎng)絡(luò)就可以實現(xiàn)這種聯(lián)想。
③具有高速尋找優(yōu)化解的能力。尋找一個復(fù)雜問題的優(yōu)化解，往往需要很大的計算量，利用一個針對某問題而設(shè)計的反饋型人工神經(jīng)網(wǎng)絡(luò)，發(fā)揮計算機的高速運算能力，可能很快找到優(yōu)化解。
參考資料：
1)局部極小化問題：從數(shù)學(xué)角度看，傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)為一種局部搜索的優(yōu)化方法，它要解決的是一個復(fù)雜非線性化問題，網(wǎng)絡(luò)的權(quán)值是通過沿局部改善的方向逐漸進行調(diào)整的，這樣會使算法陷入局部極值，權(quán)值收斂到局部極小點，從而導(dǎo)致網(wǎng)絡(luò)訓(xùn)練失敗。加上BP神經(jīng)網(wǎng)絡(luò)對初始網(wǎng)絡(luò)權(quán)重非常敏感，以不同的權(quán)重初始化網(wǎng)絡(luò)，其往往會收斂于不同的局部極小，這也是很多學(xué)者每次訓(xùn)練得到不同結(jié)果的根本原因。
2)BP神經(jīng)網(wǎng)絡(luò)算法的收斂速度慢：由于BP神經(jīng)網(wǎng)絡(luò)算法本質(zhì)上為梯度下降法，它所要優(yōu)化的目標(biāo)函數(shù)是非常復(fù)雜的，因此，必然會出現(xiàn)“鋸齒形現(xiàn)象”，這使得BP算法低效；又由于優(yōu)化的目標(biāo)函數(shù)很復(fù)雜，它必然會在神經(jīng)元輸出接近0或1的情況下，出現(xiàn)一些平坦區(qū)，在這些區(qū)域內(nèi)，權(quán)值誤差改變很小，使訓(xùn)練過程幾乎停頓。
3)BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)選擇不一：BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的選擇至今尚無一種統(tǒng)一而完整的理論指導(dǎo)，一般只能由經(jīng)驗選定。網(wǎng)絡(luò)結(jié)構(gòu)選擇過大，訓(xùn)練中效率不高，可能出現(xiàn)過擬合現(xiàn)象，造成網(wǎng)絡(luò)性能低，容錯性下降，若選擇過小，則又會造成網(wǎng)絡(luò)可能不收斂。而網(wǎng)絡(luò)的結(jié)構(gòu)直接影響網(wǎng)絡(luò)的逼近能力及推廣性質(zhì)。因此，應(yīng)用中如何選擇合適的網(wǎng)絡(luò)結(jié)構(gòu)是一個重要的問題。
4)應(yīng)用實例與網(wǎng)絡(luò)規(guī)模的矛盾問題：BP神經(jīng)網(wǎng)絡(luò)難以解決應(yīng)用問題的實例規(guī)模和網(wǎng)絡(luò)規(guī)模間的矛盾問題，其涉及到網(wǎng)絡(luò)容量的可能性與可行性的關(guān)系問題，即學(xué)習(xí)復(fù)雜性問題。
5)BP神經(jīng)網(wǎng)絡(luò)預(yù)測能力和訓(xùn)練能力的矛盾問題：預(yù)測能力也稱泛化能力或者推廣能力，而訓(xùn)練能力也稱逼近能力或者學(xué)習(xí)能力。一般情況下，訓(xùn)練能力差時，預(yù)測能力也差。
1.RBF 的泛化能力在多個方面都優(yōu)于BP 網(wǎng)絡(luò), 但是在解決具有相同精度要求的問題時, BP網(wǎng)絡(luò)的結(jié)構(gòu)要比RBF 網(wǎng)絡(luò)簡單。
2. RBF 網(wǎng)絡(luò)的逼近精度要明顯高于BP 網(wǎng)絡(luò),它幾乎能實現(xiàn)完全逼近, 而且設(shè)計起來極其方便, 網(wǎng)絡(luò)可以自動增加神經(jīng)元直到滿足精度要求為止。但是在訓(xùn)練樣本增多時, RBF 網(wǎng)絡(luò)的隱層神經(jīng)元數(shù)遠遠高于前者, 使得RBF 網(wǎng)絡(luò)的復(fù)雜度大增加, 結(jié)構(gòu)過于龐大, 從而運算量也有所增加。
3. RBF神經(jīng)網(wǎng)絡(luò)是一種性能優(yōu)良的前饋型神經(jīng)網(wǎng)絡(luò)，RBF網(wǎng)絡(luò)可以任意精度逼近任意的非線性函數(shù)，且具有全局逼近能力，從根本上解決了BP網(wǎng)絡(luò)的局部最優(yōu)問題，而且拓撲結(jié)構(gòu)緊湊，結(jié)構(gòu)參數(shù)可實現(xiàn)分離學(xué)習(xí)，收斂速度快。
4. 他們的結(jié)構(gòu)是完全不一樣的。BP是通過不斷的調(diào)整神經(jīng)元的權(quán)值來逼近最小誤差的。其方法一般是梯度下降。RBF是一種前饋型的神經(jīng)網(wǎng)絡(luò)，也就是說他不是通過不停的調(diào)整權(quán)值來逼近最小誤差的，的激勵函數(shù)是一般是高斯函數(shù)和BP的S型函數(shù)不一樣，高斯函數(shù)是通過對輸入與函數(shù)中心點的距離來算權(quán)重的。
5. bp神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)速率是固定的，因此網(wǎng)絡(luò)的收斂速度慢，需要較長的訓(xùn)練時間。對于一些復(fù)雜問題，BP算法需要的訓(xùn)練時間可能非常長，這主要是由于學(xué)習(xí)速率太小造成的。而rbf神經(jīng)網(wǎng)絡(luò)是種高效的前饋式網(wǎng)絡(luò)，它具有其他前向網(wǎng)絡(luò)所不具有的最佳逼近性能和全局最優(yōu)特性，并且結(jié)構(gòu)簡單，訓(xùn)練速度快。
人工神經(jīng)網(wǎng)絡(luò)（artificialneuralnetwork，ANN）指由大量與自然神經(jīng)系統(tǒng)相類似的神經(jīng)元聯(lián)結(jié)而成的網(wǎng)絡(luò)，是用工程技術(shù)手段模擬生物網(wǎng)絡(luò)結(jié)構(gòu)特征和功能特征的一類人工系統(tǒng)。神經(jīng)網(wǎng)絡(luò)不但具有處理數(shù)值數(shù)據(jù)的一般計算能力，而且還具有處理知識的思維、學(xué)習(xí)、記憶能力，它采用類似于“黑箱”的方法，通過學(xué)習(xí)和記憶，找出輸入、輸出變量之間的非線性關(guān)系（映射），在執(zhí)行問題和求解時，將所獲取的數(shù)據(jù)輸入到已經(jīng)訓(xùn)練好的網(wǎng)絡(luò)，依據(jù)網(wǎng)絡(luò)學(xué)到的知識進行網(wǎng)絡(luò)推理，得出合理的答案與結(jié)果。
巖土工程中的許多問題是非線性問題，變量之間的關(guān)系十分復(fù)雜，很難用確切的數(shù)學(xué)、力學(xué)模型來描述。工程現(xiàn)場實測數(shù)據(jù)的代表性與測點的位置、范圍和手段有關(guān)，有時很難滿足傳統(tǒng)統(tǒng)計方法所要求的統(tǒng)計條件和規(guī)律，加之巖土工程信息的復(fù)雜性和不確定性，因而運用神經(jīng)網(wǎng)絡(luò)方法實現(xiàn)巖土工程問題的求解是合適的。
BP神經(jīng)網(wǎng)絡(luò)模型是誤差反向傳播（BackPagation）網(wǎng)絡(luò)模型的簡稱。它由輸入層、隱含層和輸出層組成。網(wǎng)絡(luò)的學(xué)習(xí)過程就是對網(wǎng)絡(luò)各層節(jié)點間連接權(quán)逐步修改的過程，這一過程由兩部分組成：正向傳播和反向傳播。正向傳播是輸入模式從輸入層經(jīng)隱含層處理傳向輸出層；反向傳播是均方誤差信息從輸出層向輸入層傳播，將誤差信號沿原來的連接通路返回，通過修改各層神經(jīng)元的權(quán)值，使得誤差信號最小。
BP神經(jīng)網(wǎng)絡(luò)模型在建立及應(yīng)用過程中，主要存在的不足和建議有以下四個方面：
（1）對于神經(jīng)網(wǎng)絡(luò)，數(shù)據(jù)愈多，網(wǎng)絡(luò)的訓(xùn)練效果愈佳，也更能反映實際。但在實際操作中，由于條件的限制很難選取大量的樣本值進行訓(xùn)練，樣本數(shù)量偏少。
（2）BP網(wǎng)絡(luò)模型其計算速度較慢、無法表達預(yù)測量與其相關(guān)參數(shù)之間親疏關(guān)系。
（3）以定量數(shù)據(jù)為基礎(chǔ)建立模型，若能收集到充分資料，以定性指標(biāo)（如基坑降水方式、基坑支護模式、施工工況等）和一些易獲取的定量指標(biāo)作為輸入層，以評價等級作為輸出層，這樣建立的BP網(wǎng)絡(luò)模型將更準(zhǔn)確全面。
（4）BP人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)具有非線性、智能的特點。較好地考慮了定性描述和定量計算、精確邏輯分析和非確定性推理等方面，但由于樣本不同，影響要素的權(quán)重不同，以及在根據(jù)先驗知識和前人的經(jīng)驗總結(jié)對定性參數(shù)進行量化處理，必然會影響評價的客觀性和準(zhǔn)確性。因此，在實際評價中只有根據(jù)不同的基坑施工工況、不同的周邊環(huán)境條件，應(yīng)不同用戶的需求，選擇不同的分析指標(biāo)，才能滿足復(fù)雜工況條件下地質(zhì)環(huán)境評價的要求，取得較好的應(yīng)用效果。
優(yōu)點：
（1）具有自學(xué)習(xí)功能。例如實現(xiàn)圖像識別時，只在先把許多不同的圖像樣板和對應(yīng)的應(yīng)識別的結(jié)果輸入人工神經(jīng)網(wǎng)絡(luò)，網(wǎng)絡(luò)就會通過自學(xué)習(xí)功能，慢慢學(xué)會識別類似的圖像。
自學(xué)習(xí)功能對于預(yù)測有特別重要的意義。預(yù)期未來的人工神經(jīng)網(wǎng)絡(luò)計算機將為人類提供經(jīng)濟預(yù)測、市場預(yù)測、效益預(yù)測，其應(yīng)用前途是很遠大的。
（2）具有聯(lián)想存儲功能。用人工神經(jīng)網(wǎng)絡(luò)的反饋網(wǎng)絡(luò)就可以實現(xiàn)這種聯(lián)想。
（3）具有高速尋找優(yōu)化解的能力。尋找一個復(fù)雜問題的優(yōu)化解，往往需要很大的計算量，利用一個針對某問題而設(shè)計的反饋型人工神經(jīng)網(wǎng)絡(luò)，發(fā)揮計算機的高速運算能力，可能很快找到優(yōu)化解。
缺點：
（1）最嚴(yán)重的問題是沒能力來解釋自己的推理過程和推理依據(jù)。
（2）不能向用戶提出必要的詢問，而且當(dāng)數(shù)據(jù)不充分的時候，神經(jīng)網(wǎng)絡(luò)就無法進行工作。
（3）把一切問題的特征都變?yōu)閿?shù)字，把一切推理都變?yōu)閿?shù)值計算，其結(jié)果勢必是丟失信息。
（4）理論和學(xué)習(xí)算法還有待于進一步完善和提高。
擴展資料：
神經(jīng)網(wǎng)絡(luò)發(fā)展趨勢
人工神經(jīng)網(wǎng)絡(luò)特有的非線性適應(yīng)性信息處理能力，克服了傳統(tǒng)人工智能方法對于直覺，如模式、語音識別、非結(jié)構(gòu)化信息處理方面的缺陷，使之在神經(jīng)專家系統(tǒng)、模式識別、智能控制、組合優(yōu)化、預(yù)測等領(lǐng)域得到成功應(yīng)用。
人工神經(jīng)網(wǎng)絡(luò)與其它傳統(tǒng)方法相結(jié)合，將推動人工智能和信息處理技術(shù)不斷發(fā)展。近年來，人工神經(jīng)網(wǎng)絡(luò)正向模擬人類認知的道路上更加深入發(fā)展，與模糊系統(tǒng)、遺傳算法、進化機制等結(jié)合，形成計算智能，成為人工智能的一個重要方向，將在實際應(yīng)用中得到發(fā)展。
將信息幾何應(yīng)用于人工神經(jīng)網(wǎng)絡(luò)的研究，為人工神經(jīng)網(wǎng)絡(luò)的理論研究開辟了新的途徑。神經(jīng)計算機的研究發(fā)展很快，已有產(chǎn)品進入市場。光電結(jié)合的神經(jīng)計算機為人工神經(jīng)網(wǎng)絡(luò)的發(fā)展提供了良好條件。
神經(jīng)網(wǎng)絡(luò)在很多領(lǐng)域已得到了很好的應(yīng)用，但其需要研究的方面還很多。其中，具有分布存儲、并行處理、自學(xué)習(xí)、自組織以及非線性映射等優(yōu)點的神經(jīng)網(wǎng)絡(luò)與其他技術(shù)的結(jié)合以及由此而來的混合方法和混合系統(tǒng)，已經(jīng)成為一大研究熱點。
由于其他方法也有它們各自的優(yōu)點，所以將神經(jīng)網(wǎng)絡(luò)與其他方法相結(jié)合，取長補短，繼而可以獲得更好的應(yīng)用效果。目前這方面工作有神經(jīng)網(wǎng)絡(luò)與模糊邏輯、專家系統(tǒng)、遺傳算法、小波分析、混沌、粗集理論、分形理論、證據(jù)理論和灰色系統(tǒng)等的融合。
參考資料：
BP網(wǎng)絡(luò)的誤差逆?zhèn)鞑ニ惴ㄒ蛴兄虚g隱含層和相應(yīng)的學(xué)習(xí)規(guī)則，使得它具有很
強的非線性映射能力，而且網(wǎng)絡(luò)的中間層數(shù)、各層神經(jīng)元個數(shù)及網(wǎng)絡(luò)的學(xué)習(xí)系數(shù)
等參數(shù)可以根據(jù)實際情況設(shè)定，有很大的靈活性，且能夠識別含有噪聲的樣本，
經(jīng)過學(xué)習(xí)能夠把樣本隱含的特征和規(guī)則分布在神經(jīng)網(wǎng)絡(luò)的連接權(quán)上?？偟恼f來，
BP網(wǎng)絡(luò)的優(yōu)點主要有：
(1)算法推導(dǎo)清楚，學(xué)習(xí)精度較高；(2)經(jīng)過訓(xùn)練后的BP網(wǎng)絡(luò)，運行速度很快，有
的可用于實時處理；(3)多層(至少三層)BP網(wǎng)絡(luò)具有理論上逼近任意非線性連續(xù)
函數(shù)的能力，也就是說，可以使多層前饋神經(jīng)網(wǎng)絡(luò)學(xué)會任何可學(xué)習(xí)的東西，而信
息處理的大部分問題都能歸納為數(shù)學(xué)映射，通過選擇一定的非線性和連接強度調(diào)
節(jié)規(guī)律，BP網(wǎng)絡(luò)就可解決任何一個信息處理的問題。目前，在手寫字體的識別、
語音識別、文本一語言轉(zhuǎn)換、圖像識別以及生物醫(yī)學(xué)信號處理方面已有實際的應(yīng)
用。
同時BP算法與其它算法一樣，也存在自身的缺陷：
(1)由于該算法采用誤差導(dǎo)數(shù)指導(dǎo)學(xué)習(xí)過程，在存在較多局部極小點的情況下容易陷入局部極小點，不能保證收斂到全局最小點：(2)存在學(xué)習(xí)速度與精度之間的矛盾，當(dāng)學(xué)習(xí)速度較快時，學(xué)習(xí)過程容易產(chǎn)生振蕩，難以得到精確結(jié)果，而當(dāng)學(xué)習(xí)速度較慢時，雖然結(jié)果的精度較高，但學(xué)習(xí)周期太長：(3)算法學(xué)習(xí)收斂速度慢；(4)網(wǎng)絡(luò)學(xué)習(xí)記憶具有不穩(wěn)定性，即當(dāng)給一個訓(xùn)練好的網(wǎng)絡(luò)提供新的學(xué)習(xí)記憶模式時，將使已有的連接權(quán)值打亂，導(dǎo)致已記憶的學(xué)習(xí)模式的信息消失；(5)網(wǎng)絡(luò)中間層(隱含層)的層數(shù)及它的單元數(shù)的選取無理論上的指導(dǎo)，而是根據(jù)經(jīng)驗確定，因此網(wǎng)絡(luò)的設(shè)計有時不一定是最佳的方案。
因為初始權(quán)值和閾值是隨機產(chǎn)生的。
神經(jīng)網(wǎng)絡(luò)每次結(jié)果不同是因為初始化的權(quán)值和閾值是隨機的,因為每次的結(jié)果不一樣，才有可能找到比較理想的結(jié)果,找到比較好的結(jié)果后，用命令save filename net;保存網(wǎng)絡(luò)，可使預(yù)測的結(jié)果不會變化，調(diào)用時用命令load filename net;
優(yōu)劣勢：
BP神經(jīng)網(wǎng)絡(luò)無論在網(wǎng)絡(luò)理論還是在性能方面已比較成熟。其突出優(yōu)點就是具有很強的非線性映射能力和柔性的網(wǎng)絡(luò)結(jié)構(gòu)。網(wǎng)絡(luò)的中間層數(shù)、各層的神經(jīng)元個數(shù)可根據(jù)具體情況任意設(shè)定，并且隨著結(jié)構(gòu)的差異其性能也有所不同。但是BP神經(jīng)網(wǎng)絡(luò)也存在以下的一些主要缺陷。
①學(xué)習(xí)速度慢，即使是一個簡單的問題，一般也需要幾百次甚至上千次的學(xué)習(xí)才能收斂。
②容易陷入局部極小值。
③網(wǎng)絡(luò)層數(shù)、神經(jīng)元個數(shù)的選擇沒有相應(yīng)的理論指導(dǎo)。
④網(wǎng)絡(luò)推廣能力有限。
對于上述問題，目前已經(jīng)有了許多改進措施，研究最多的就是如何加速網(wǎng)絡(luò)的收斂速度和盡量避免陷入局部極小值的問題。
人工神經(jīng)網(wǎng)絡(luò)是近幾年來發(fā)展起來的新興學(xué)科，它是一種大規(guī)模并行分布處理的非線性系統(tǒng)，適用解決難以用數(shù)學(xué)模型描述的系統(tǒng)，逼近任何非線性的特性，具有很強的自適應(yīng)、自學(xué)習(xí)、聯(lián)想記憶、高度容錯和并行處理能力，使得神經(jīng)網(wǎng)絡(luò)理論的應(yīng)用已經(jīng)滲透到了各個領(lǐng)域。近年來，人工神經(jīng)網(wǎng)絡(luò)在水質(zhì)分析和評價中的應(yīng)用越來越廣泛，并取得良好效果。在這些應(yīng)用中，縱觀應(yīng)用于模式識別的神經(jīng)網(wǎng)絡(luò)，BP網(wǎng)絡(luò)是最有效、最活躍的方法之一。
BP網(wǎng)絡(luò)是多層前向網(wǎng)絡(luò)的權(quán)值學(xué)習(xí)采用誤差逆?zhèn)鞑W(xué)習(xí)的一種算法（Error Back Propagation，簡稱BP）。在具體應(yīng)用該網(wǎng)絡(luò)時分為網(wǎng)絡(luò)訓(xùn)練及網(wǎng)絡(luò)工作兩個階段。在網(wǎng)絡(luò)訓(xùn)練階段，根據(jù)給定的訓(xùn)練模式，按照“模式的順傳播”→“誤差逆?zhèn)鞑ァ薄坝洃浻?xùn)練”→“學(xué)習(xí)收斂”4個過程進行網(wǎng)絡(luò)權(quán)值的訓(xùn)練。在網(wǎng)絡(luò)的工作階段，根據(jù)訓(xùn)練好的網(wǎng)絡(luò)權(quán)值及給定的輸入向量，按照“模式順傳播”方式求得與輸入向量相對應(yīng)的輸出向量的解答（閻平凡，2000）。
BP算法是一種比較成熟的有指導(dǎo)的訓(xùn)練方法，是一個單向傳播的多層前饋網(wǎng)絡(luò)。它包含輸入層、隱含層、輸出層，如圖4-4所示。
圖4-4 地下水質(zhì)量評價的BP神經(jīng)網(wǎng)絡(luò)模型
圖4-4給出了4層地下水水質(zhì)評價的BP神經(jīng)網(wǎng)絡(luò)模型。同層節(jié)點之間不連接。輸入信號從輸入層節(jié)點，依次傳過各隱含層節(jié)點，然后傳到輸出層節(jié)點，如果在輸出層得不到期望輸出，則轉(zhuǎn)入反向傳播，將誤差信號沿原來通路返回，通過學(xué)習(xí)來修改各層神經(jīng)元的權(quán)值，使誤差信號最小。每一層節(jié)點的輸出只影響下一層節(jié)點的輸入。每個節(jié)點都對應(yīng)著一個作用函數(shù)（f）和閾值（a），BP網(wǎng)絡(luò)的基本處理單元量為非線性輸入-輸出的關(guān)系，輸入層節(jié)點閾值為0，且f（x）=x；而隱含層和輸出層的作用函數(shù)為非線性的Sigmoid型（它是連續(xù)可微的）函數(shù)，其表達式為
f（x）=1/（1+e-x） （4-55）
設(shè)有L個學(xué)習(xí)樣本（Xk，Ok）（k=1，2，…，l），其中Xk為輸入，Ok為期望輸出，Xk經(jīng)網(wǎng)絡(luò)傳播后得到的實際輸出為Yk，則Yk與要求的期望輸出Ok之間的均方誤差為
區(qū)域地下水功能可持續(xù)性評價理論與方法研究
式中：M為輸出層單元數(shù)；Yk，p為第k樣本對第p特性分量的實際輸出；Ok，p為第k樣本對第p特性分量的期望輸出。
樣本的總誤差為
區(qū)域地下水功能可持續(xù)性評價理論與方法研究
由梯度下降法修改網(wǎng)絡(luò)的權(quán)值，使得E取得最小值，學(xué)習(xí)樣本對Wij的修正為
區(qū)域地下水功能可持續(xù)性評價理論與方法研究
式中：η為學(xué)習(xí)速率，可取0到1間的數(shù)值。
所有學(xué)習(xí)樣本對權(quán)值Wij的修正為
區(qū)域地下水功能可持續(xù)性評價理論與方法研究
通常為增加學(xué)習(xí)過程的穩(wěn)定性，用下式對Wij再進行修正：
區(qū)域地下水功能可持續(xù)性評價理論與方法研究
式中：β為充量常量；Wij（t）為BP網(wǎng)絡(luò)第t次迭代循環(huán)訓(xùn)練后的連接權(quán)值；Wij（t-1）為BP網(wǎng)絡(luò)第t-1次迭代循環(huán)訓(xùn)練后的連接權(quán)值。
在BP網(wǎng)絡(luò)學(xué)習(xí)的過程中，先調(diào)整輸出層與隱含層之間的連接權(quán)值，然后調(diào)整中間隱含層間的連接權(quán)值，最后調(diào)整隱含層與輸入層之間的連接權(quán)值。實現(xiàn)BP網(wǎng)絡(luò)訓(xùn)練學(xué)習(xí)程序流程，如圖4-5所示（倪深海等，2000）。
圖4-5 BP神經(jīng)網(wǎng)絡(luò)模型程序框圖
若將水質(zhì)評價中的評價標(biāo)準(zhǔn)作為樣本輸入，評價級別作為網(wǎng)絡(luò)輸出，BP網(wǎng)絡(luò)通過不斷學(xué)習(xí)，歸納出評價標(biāo)準(zhǔn)與評價級別間復(fù)雜的內(nèi)在對應(yīng)關(guān)系，即可進行水質(zhì)綜合評價。
BP網(wǎng)絡(luò)對地下水質(zhì)量綜合評價，其評價方法不需要過多的數(shù)理統(tǒng)計知識，也不需要對水質(zhì)量監(jiān)測數(shù)據(jù)進行復(fù)雜的預(yù)處理，操作簡便易行，評價結(jié)果切合實際。由于人工神經(jīng)網(wǎng)絡(luò)方法具有高度民主的非線性函數(shù)映射功能，使得地下水水質(zhì)評價結(jié)果較準(zhǔn)確（袁曾任，1999）。
BP網(wǎng)絡(luò)可以任意逼近任何連續(xù)函數(shù)，但是它主要存在如下缺點：①從數(shù)學(xué)上看，它可歸結(jié)為一非線性的梯度優(yōu)化問題，因此不可避免地存在局部極小問題；②學(xué)習(xí)算法的收斂速度慢，通常需要上千次或更多。
神經(jīng)網(wǎng)絡(luò)具有學(xué)習(xí)、聯(lián)想和容錯功能，是地下水水質(zhì)評價工作方法的改進，如何在現(xiàn)行的神經(jīng)網(wǎng)絡(luò)中進一步吸取模糊和灰色理論的某些優(yōu)點，建立更適合水質(zhì)評價的神經(jīng)網(wǎng)絡(luò)模型，使該模型既具有方法的先進性又具有現(xiàn)實的可行性，將是我們今后研究和探討的問題。
聯(lián)系客服
