神經網路權值

1. 神經網路的初始權值和閾值為什麼都歸一化0到1之間呢或是

不一定，也可設置為[-1，1]之間。事實上，必須要有權值為負數，不然只有激活神經元，沒有抑制的也不行。至於為什麼在[-1，1]之間就足夠了，這是因為歸一化和Sigmoid函數輸出區間限制這兩個原因。一般在編程時，設置一個矩陣為bounds=ones(S,1)*[-1,1]; %權值上下界。

在MATLAB中，可以直接使用net = init(net);來初始化。我們可以通過設定網路參數net.initFcn和net.layer{i}.initFcn這一技巧來初始化一個給定的網路。net.initFcn用來決定整個網路的初始化函數。前饋網路的預設值為initlay，它允許每一層用單獨的初始化函數。設定了net.initFcn ，那麼參數net.layer{i}.initFcn 也要設定用來決定每一層的初始化函數。對前饋網路來說，有兩種不同的初始化方式經常被用到：initwb和initnw。initwb函數根據每一層自己的初始化參數(net.inputWeights{i,j}.initFcn)初始化權重矩陣和偏置。前饋網路的初始化權重通常設為rands，它使權重在-1到1之間隨機取值。這種方式經常用在轉換函數是線性函數時。initnw通常用於轉換函數是曲線函數。它根據Nguyen和Widrow[NgWi90]為層產生初始權重和偏置值，使得每層神經元的活動區域能大致平坦的分布在輸入空間。

2. BP神經網路連接權值如何確定

確認方法：
統計學認為，在統計中計算平均數等指標時，對各個變數值回具有權衡輕重答作用的數值就稱為權數。
例子：求下列數串的平均數
3、4、3、3、3、2、4、4、3、3、
一般求法為（3＋4＋3＋3＋3＋2＋4＋4＋3＋3）／10＝3．2
加權求法為（6＊3＋3＊4＋2）／10＝3．2
其中3出現6次，4出現3次，2出現1次．6、3、1就叫權數。這種方法叫加權法。
一般說的平均數，就是把所有的數加起來，再除以這些數的總個數。表示為：
(p1+p2+p3+…..+pn)/n;
但有的數據記錄中有一些相同的數據，在計算的時候，那一個數有幾個相同數，就把這個數乘上幾，這個幾，就叫權，加權，就是乘上幾後再加。平均數還是要除以總個數。
還是以上面的各個數為例：
它們每個數都有一些相同數，表示為：k1,k2,k3…….kn;
加權平均的公式是：（k1p1+k2p2+k3p3+……knpn）/(k1+k2+k3+…..kn)

3. 神經網路權值怎麼算

net.iw{1,1}=W0;net.b{1}=B0;
net.iw{1,1}=W0;輸入層和隱層間的權值，net.b{1}=B0輸入層和隱層間的閾值.

BP(back propagation)神經網路是1986年由Rumelhart和McClelland為首的科學家提出的概念，是一種按照誤差逆向傳播演算法訓練的多層前饋神經網路，是目前應用最廣泛的神經網路。

BP神經網路具有任意復雜的模式分類能力和優良的多維函數映射能力，解決了簡單感知器不能解決的異或(Exclusive OR，XOR)和一些其他問題。從結構上講，BP網路具有輸入層、隱藏層和輸出層；

從本質上講，BP演算法就是以網路誤差平方為目標函數、採用梯度下降法來計算目標函數的最小值。

(3)神經網路權值擴展閱讀：

BP神經網路無論在網路理論還是在性能方面已比較成熟。其突出優點就是具有很強的非線性映射能力和柔性的網路結構。網路的中間層數、各層的神經元個數可根據具體情況任意設定，並且隨著結構的差異其性能也有所不同。但是BP神經網路也存在以下的一些主要缺陷。

①學習速度慢，即使是一個簡單的問題，一般也需要幾百次甚至上千次的學習才能收斂。

②容易陷入局部極小值。

③網路層數、神經元個數的選擇沒有相應的理論指導。

④網路推廣能力有限。

對於上述問題，目前已經有了許多改進措施，研究最多的就是如何加速網路的收斂速度和盡量避免陷入局部極小值的問題。

4. 神經網路中權值初始化的方法

神經網路中權值初始化的方法
權值初始化的方法主要有：常量初始化（constant）、高斯分布初始化（gaussian）、positive_unitball初始化、均勻分布初始化（uniform）、xavier初始化、msra初始化、雙線性初始化（bilinear）
常量初始化(constant)
把權值或者偏置初始化為一個常數，具體是什麼常數，可以自己定義
高斯分布初始化（gaussian）
需要給定高斯函數的均值與標准差
positive_unitball初始化
讓每一個神經元的輸入的權值和為 1，例如：一個神經元有100個輸入，讓這100個輸入的權值和為1. 首先給這100個權值賦值為在（0，1）之間的均勻分布，然後，每一個權值再除以它們的和就可以啦。這么做，可以有助於防止權值初始化過大，從而防止激活函數（sigmoid函數）進入飽和區。所以，它應該比較適合simgmoid形的激活函數
均勻分布初始化（uniform）
將權值與偏置進行均勻分布的初始化，用min 與 max 來控制它們的的上下限，默認為（0，1）
xavier初始化
對於權值的分布：均值為0，方差為（1 / 輸入的個數） 的 均勻分布。如果我們更注重前向傳播的話，我們可以選擇 fan_in，即正向傳播的輸入個數；如果更注重後向傳播的話，我們選擇 fan_out, 因為在反向傳播的時候，fan_out就是神經元的輸入個數；如果兩者都考慮的話，就選 average = (fan_in + fan_out) /2。對於ReLU激活函數來說，XavierFiller初始化也是很適合。關於該初始化方法，具體可以參考文章1、文章2，該方法假定激活函數是線性的。
msra初始化
對於權值的分布：基於均值為0，方差為( 2/輸入的個數)的高斯分布；它特別適合 ReLU激活函數，該方法主要是基於Relu函數提出的，推導過程類似於xavier。
雙線性初始化（bilinear）
常用在反卷積神經網路里的權值初始化

5. BP神經網路一般初始權值和閥值是多少

初始的權值和偏差一般是在0-1之間，隨機選取某一0-1之間的值作為某一權值或偏差的值
原因在內於：
1、數據預處理階容段會將所有的數據規范化到0-1之間，並且神經網路的輸出也是0-1之間的向量，因此其中的網路結點值也應位於0-1中
2、隨機初始化的優勢在於可有效避免梯度消失或梯度爆炸的問題，增加網路的穩定性。

6. 神經網路權值怎麼確定

神經網路的權值是通過對網路的訓練得到的。如果使用MATLAB的話不要自己設定，newff之後會自動賦值。也可以手動：net.IW{}= ; net.bias{}=。一般來說輸入歸一化，那麼w和b取0-1的隨機數就行。神經網路的權值確定的目的是為了讓神經網路在訓練過程中學習到有用的信息，這意味著參數梯度不應該為0。

參數初始化要滿足兩個必要條件：

1、各個激活層不會出現飽和現象，比如對於sigmoid激活函數，初始化值不能太大或太小，導致陷入其飽和區。

2、各個激活值不為0，如果激活層輸出為零，也就是下一層卷積層的輸入為零，所以這個卷積層對權值求偏導為零，從而導致梯度為0。

(6)神經網路權值擴展閱讀：

神經網路和權值的關系。

在訓練智能體執行任務時，會選擇一個典型的神經網路框架，並相信它有潛力為這個任務編碼特定的策略。注意這里只是有潛力，還要學習權重參數，才能將這種潛力變化為能力。

受到自然界早成行為及先天能力的啟發，在這項工作中，研究者構建了一個能自然執行給定任務的神經網路。也就是說，找到一個先天的神經網路架構，然後只需要隨機初始化的權值就能執行任務。研究者表示，這種不用學習參數的神經網路架構在強化學習與監督學習都有很好的表現。

其實如果想像神經網路架構提供的就是一個圈，那麼常規學習權值就是找到一個最優點（或最優參數解）。但是對於不用學習權重的神經網路，它就相當於引入了一個非常強的歸納偏置，以至於，整個架構偏置到能直接解決某個問題。

但是對於不用學習權重的神經網路，它相當於不停地特化架構，或者說降低模型方差。這樣，當架構越來越小而只包含最優解時，隨機化的權值也就能解決實際問題了。如研究者那樣從小架構到大架構搜索也是可行的，只要架構能正好將最優解包圍住就行了。

7. 神經網路權值怎麼確定

(1)初始時,每個權值由隨機數函數產生,值的范圍為[-1,1]之間
(2)運行過程中,通過BP演算法求得均方誤差的梯度,然後調整BP網路的權值.如:w(i,j,k+1)=w(i,j,k)+Delta(e(i,j)).

8. 神經網路演算法中權值W和閾值的定義是什麼

因為高斯距離在歐式幾何中定義的。（就是說這個最短）權值就是類似於方程y=ax+b，中a的值。訓練好的神經網路對於新的數據不一定是最優的。甚至不一定可以用來預測。

9. 如何理解人工智慧神經網路中的權值共享問題

權值(權重)共享這個詞是由LeNet5模型提出來的。以CNN為例，在對一張圖偏進行卷積的過程中，使用的是同一個卷積核的參數。比如一個3×3×1的卷積核，這個卷積核內9個的參數被整張圖共享，而不會因為圖像內位置的不同而改變卷積核內的權系數。說的再直白一些，就是用一個卷積核不改變其內權系數的情況下卷積處理整張圖片(當然CNN中每一層不會只有一個卷積核的，這樣說只是為了方便解釋而已)。

10. BP神經網路中初始權值和閾值的設定

1、首先需要了解BP神經網路是一種多層前饋網路。