『壹』 深度神經網路是如何訓練的
我就以卷積神經網路為例來說吧。卷積神經網路的訓練過程就是對大量帶標簽數據(監督學習)通過反向傳播演算法學習網路結構中的參數。其基本思想是:基於一組設置的初始化模型參數,比如利用高斯分布來隨機初始化網路結構中的參數,輸入數據在卷積神經網路中經過前向傳播會得到一個期望輸出,如果這個期望輸出與數據的實際類別標簽不相同,則將誤差逐層反向傳播至輸入層,每層的神經元會根據該誤差對網路結構中的參數進行更新。對卷積神經網路而言,待學習的參數包括卷積核參數、層間的連接參數以及各層的偏置。訓練好的模型能夠計算新輸入數據對應的類別標簽,從而完成分類或預測任務。