㈠ 一個完整的人工神經網路包括什麼
一個完整的人工神經網路包括輸入層、一個或多個隱藏層和一個輸出層。
神經網路,也稱為人工神經網路 (ANN) 或模擬神經網路 (SNN),是機器學習的子集,並且是深度學習演算法的核心。其名稱和結構是受人類大腦的啟發,模仿了生物神經元信號相互傳遞的方式。
如果該輸出超出給定閾值,那麼它將「觸發」(或激活)節點,將數據傳遞到網路中的下一層。 這會導致一個節點的輸出變成下一個節點的輸入。 這種將數據從一層傳遞到下一層的過程規定了該神經網路為前饋網路。
㈡ 人工神經網路的分類
人工神經來網路模型主要考慮網源絡連接的拓撲結構、神經元的特徵、學習規則等。目前,已有近40種神經網路模型,其中有反傳網路、感知器、自組織映射、Hopfield網路、波耳茲曼機、適應諧振理論等。
ann:人工神經網路(Artificial Neural Networks)
bp:Back Propagation網路是1986年由Rumelhart和McCelland為首的科學家小組提出,是一種按誤差逆傳播演算法訓練的多層前饋網路,是目前應用最廣泛的神經網路模型之一。BP網路能學習和存貯大量的輸入-輸出模式映射關系,而無需事前揭示描述這種映射關系的數學方程。它的學習規則是使用最速下降法,通過反向傳播來不斷調整網路的權值和閾值,使網路的誤差平方和最小。BP神經網路模型拓撲結構包括輸入層(input)、隱層(hide layer)和輸出層(output layer)。
㈢ 人工神經網路分類方法
從20世紀年代末期,人工神經網路方法開始應用於遙感圖像的自動分類。目前,在遙感圖像的自動分類方面,應用和研究比較多的人工神經網路方法主要有以下幾種:
(1)BP(Back Propagation)神經網路,這是一種應用較廣泛的前饋式網路,屬於有監督分類演算法,它將先驗知識融於網路學習之中,加以最大限度地利用,適應性好,在類別數少的情況下能夠得到相當高的精度,但是其網路的學習主要採用誤差修正演算法,識別對象種類多時,隨著網路規模的擴大,需要的計算過程較長,收斂緩慢而不穩定,且識別精度難以達到要求。
(2)Hopfield神經網路。屬於反饋式網路。主要採用Hebb規則進行學習,一般情況下計算的收斂速度較快。這種網路是美國物理學家J.J.Hopfield於1982年首先提出的,它主要用於模擬生物神經網路的記憶機理。Hopfield神經網路狀態的演變過程是一個非線性動力學系統,可以用一組非線性差分方程來描述。系統的穩定性可用所謂的「能量函數」進行分析,在滿足一定條件下,某種「能量函數」的能量在網路運行過程中不斷地減少,最後趨於穩定的平衡狀態。Hopfield網路的演變過程是一種計算聯想記憶或求解優化問題的過程。
(3)Kohonen網路。這是一種由芬蘭赫爾辛基大學神經網路專家Kohonen(1981)提出的自組織神經網路,其採用了無導師信息的學習演算法,這種學習演算法僅根據輸入數據的屬性而調整權值,進而完成向環境學習、自動分類和聚類等任務。其最大的優點是最終的各個相鄰聚類之間是有相似關系的,即使識別時把樣本映射到了一個錯誤的節點,它也傾向於被識別成同一個因素或者一個相近的因素,這就十分接近人的識別特性。
㈣ 人工神經網路(ANN)簡述
我們從下面四點認識人工神經網路(ANN: Artificial Neutral Network):神經元結構、神經元的激活函數、神經網路拓撲結構、神經網路選擇權值和學習演算法。
1. 神經元:
我們先來看一組對比圖就能了解是怎樣從生物神經元建模為人工神經元。
下面分別講述:
生物神經元的組成包括細胞體、樹突、軸突、突觸。樹突可以看作輸入端,接收從其他細胞傳遞過來的電信號;軸突可以看作輸出端,傳遞電荷給其他細胞;突觸可以看作I/O介面,連接神經元,單個神經元可以和上千個神經元連接。細胞體內有膜電位,從外界傳遞過來的電流使膜電位發生變化,並且不斷累加,當膜電位升高到超過一個閾值時,神經元被激活,產生一個脈沖,傳遞到下一個神經元。
為了更形象理解神經元傳遞信號過程,把一個神經元比作一個水桶。水桶下側連著多根水管(樹突),水管既可以把桶里的水排出去(抑制性),又可以將其他水桶的水輸進來(興奮性),水管的粗細不同,對桶中水的影響程度不同(權重),水管對水桶水位(膜電位)的改變就是水桶內水位的改變,當桶中水達到一定高度時,就能通過另一條管道(軸突)排出去。
按照這個原理,科學家提出了M-P模型(取自兩個提出者的姓名首字母),M-P模型是對生物神經元的建模,作為人工神經網路中的一個神經元。
由MP模型的示意圖,我們可以看到與生物神經元的相似之處,x_i表示多個輸入,W_ij表示每個輸入的權值,其正負模擬了生物神經元中突出的興奮和抑制;sigma表示將全部輸入信號進行累加整合,f為激活函數,O為輸出。下圖可以看到生物神經元和MP模型的類比:
往後誕生的各種神經元模型都是由MP模型演變過來。
2. 激活函數
激活函數可以看作濾波器,接收外界各種各樣的信號,通過調整函數,輸出期望值。ANN通常採用三類激活函數:閾值函數、分段函數、雙極性連續函數(sigmoid,tanh):
3. 學習演算法
神經網路的學習也稱為訓練,通過神經網路所在環境的刺激作用調整神經網路的自由參數(如連接權值),使神經網路以一種新的方式對外部環境做出反應的一個過程。每個神經網路都有一個激活函數y=f(x),訓練過程就是通過給定的海量x數據和y數據,擬合出激活函數f。學習過程分為有導師學習和無導師學習,有導師學習是給定期望輸出,通過對權值的調整使實際輸出逼近期望輸出;無導師學習給定表示方法質量的測量尺度,根據該尺度來優化參數。常見的有Hebb學習、糾錯學習、基於記憶學習、隨機學習、競爭學習。
4. 神經網路拓撲結構
常見的拓撲結構有單層前向網路、多層前向網路、反饋網路,隨機神經網路、競爭神經網路。
5. 神經網路的發展
(不能貼公式不好解釋啊 -_-!)sigma是誤差信號,yita是學習率,net是輸入之和,V是輸入層到隱含層的權重矩陣,W是隱含層到輸出層的權重矩陣。
之後還有幾種
隨著計算機硬體計算能力越來越強,用來訓練的數據越來越多,神經網路變得越來越復雜。在人工智慧領域常聽到DNN(深度神經網路)、CNN(卷積神經網路)、RNN(遞歸神經網路)。其中,DNN是總稱,指層數非常多的網路,通常有二十幾層,具體可以是CNN或RNN等網路結構。
參考資料 :