人工神經網絡模型：

人工神經網絡模型主要考慮網絡連接的拓撲結構、神經元的特征、學習規(guī)則等。目前，已有近40種神經網絡模型，其中有反傳網絡、感知器、自組織映射、Hopfield網絡、波耳茲曼機、適應諧振理論等。根據連接的拓撲結構，神經網絡模型可以分為：

1）前向網絡

網絡中各個神經元接受前一級的輸入，并輸出到下一級，網絡中沒有反饋，可以用一個有向無環(huán)路圖表示。這種網絡實現(xiàn)信號從輸入空間到輸出空間的變換，它的信息處理能力來自于簡單非線性函數(shù)的多次復合。網絡結構簡單，易于實現(xiàn)。反傳網絡是一種典型的前向網絡。

2）反饋網絡

網絡內神經元間有反饋，可以用一個無向的完備圖表示。這種神經網絡的信息處理是狀態(tài)的變換，可以用動力學系統(tǒng)理論處理。系統(tǒng)的穩(wěn)定性與聯(lián)想記憶功能有密切關系。Hopfield網絡、波耳茲曼機均屬于反饋網絡類型。

人工神經網絡學習類型：

學習是神經網絡研究的一個重要內容，它的適應性是通過學習實現(xiàn)的。根據環(huán)境的變化，對權值進行調整，改善系統(tǒng)的行為。根據學習環(huán)境不同，神經網絡的學習方式可分為監(jiān)督學習和非監(jiān)督學習。

1）在監(jiān)督學習時，將訓練樣本的數(shù)據加到網絡輸入端，同時將相應的期望輸出與網絡輸出相比較，得到誤差信號，以此控制權值連接強度的調整，經多次訓練后收斂到一個確定的權值。當樣本情況發(fā)生變化時，經學習可以修改權值以適應新的環(huán)境。使用監(jiān)督學習的神經網絡模型有反傳網絡、感知器等。

2）非監(jiān)督學習時，事先不給定標準樣本，直接將網絡置于環(huán)境之中，學習階段與工作階段成為一體。此時，學習規(guī)律的變化服從連接權值的演變方程。非監(jiān)督學習最簡單的例子是Hebb學習規(guī)則。競爭學習規(guī)則是一個更復雜的非監(jiān)督學習的例子，它是根據已建立的聚類進行權值調整。自組織映射、適應諧振理論網絡等都是與競爭學習有關的典型模型。

有效的學習算法，使得神經網絡能夠通過連接權值的調整，構造客觀世界的內在表示，形成具有特色的信息處理方法，信息存儲和處理體現(xiàn)在網絡的連接中。

人工神經網絡分析方法：

研究神經網絡的非線性動力學性質，主要采用動力學系統(tǒng)理論、非線性規(guī)劃理論和統(tǒng)計理論，來分析神經網絡的演化過程和吸引子的性質，探索神經網絡的協(xié)同行為和集體計算功能，了解神經信息處理機制。為了探討神經網絡在整體性和模糊性方面處理信息的可能，混沌理論的概念和方法將會發(fā)揮作用。

人工神經網絡特點：

人工神經網絡的特點如下：

1）  具有自學習功能。自學習功能對于預測有特別重要的意義。預期未來的人工神經網絡計算機將為人類提供經濟預測、市場預測、效益預測，其應用前途是很遠大的。

2）  具有聯(lián)想存儲功能。用人工神經網絡的反饋網絡就可以實現(xiàn)這種聯(lián)想。

3）  具有高速尋找優(yōu)化解的能力。尋找一個復雜問題的優(yōu)化解，往往需要很大的計算量，利用一個針對某問題而設計的反饋型人工神經網絡，發(fā)揮計算機的高速運算能力，可能很快找到優(yōu)化解。

人工神經網絡研究方向：

人工神經網絡的研究可以分為理論研究和應用研究兩大方面。

1）理論研究可分為以下兩類：

a）利用神經生理與認知科學研究人類思維以及智能機理。

b）利用神經基礎理論的研究成果，用數(shù)理方法探索功能更加完善、性能更加優(yōu)越的神經網絡模型，深入研究網絡算法和性能，如：穩(wěn)定性、收斂性、容錯性、魯棒性等；開發(fā)新的網絡數(shù)理理論，如：神經網絡動力學、非線性神經場等。

2）應用研究可分為以下兩類：

a）神經網絡的軟件模擬和硬件實現(xiàn)的研究。

b）神經網絡在各個領域中應用的研究。這些領域主要包括：模式識別、信號處理、知識工程、專家系統(tǒng)、優(yōu)化組合、機器人控制等。隨著神經網絡理論本身以及相關理論、相關技術的不斷發(fā)展，神經網絡的應用定將更加深入。

人工神經網絡發(fā)展趨勢：

人工神經網絡與其它傳統(tǒng)方法相結合，將推動人工智能和信息處理技術不斷發(fā)展。近年來，人工神經網絡正向模擬人類認知的道路上更加深入發(fā)展，與模糊系統(tǒng)、遺傳算法、進化機制等結合，形成計算智能，成為人工智能的一個重要方向，將在實際應用中得到發(fā)展。將信息幾何應用于人工神經網絡的研究，為人工神經網絡的理論研究開辟了新的途徑。神經計算機的研究發(fā)展很快，已有產品進入市場。光電結合的神經計算機為人工神經網絡的發(fā)展提供了良好條件。具有分布存儲、并行處理、自學習、自組織以及非線性映射等優(yōu)點的神經網絡與其他技術的結合以及由此而來的混合方法和混合系統(tǒng)，已經成為一大研究熱點。另外還有神經網絡與模糊邏輯、專家系統(tǒng)、遺傳算法、小波分析、混沌、粗集理論、分形理論、證據理論和灰色系統(tǒng)等的融合。

雖然人工神經網絡已經取得了一定的進步，但是還存在許多缺陷，比如：應用面不夠寬闊、結果不夠精確；現(xiàn)有模型算法的訓練速度不夠高；算法的集成度不夠高；人們希望在理論上尋找新的突破點，建立新的通用模型和算法。需進一步對生物神經元系統(tǒng)進行研究，不斷豐富人們對人腦神經的認識。

結語：

人工神經網絡ANN是深度學習DL的基礎。人工神經網絡的種類多種多樣，但其分類依據逃不出三個基本點：神經元模型，神經網絡結構和學習算法。人工神經網絡是由大量處理單元互聯(lián)組成的非線性、自適應信息處理系統(tǒng)。人工神經網絡與模糊系統(tǒng)、遺傳算法、進化機制等相結合，成為人工智能的一個重要方向。當然，人工神經網絡還存在許多缺陷，人們希望尋找新的突破點，推動人工智能技術不斷向前發(fā)展。