BP（back propagation）誤差逆?zhèn)鞑ド窠浘W絡

馬克-to-win @ 馬克java社區(qū)：防盜版實名手機尾號：73203。BP神經網絡是一種按誤差反向傳播的神經網絡，它的基本思想還是梯度下降法，中間隱含層的誤差和最后一層的誤差存在一定的數學關系，（可以計算出來），就像誤差被反向傳回來了，所以顧名思義BP。馬克-to-win @ 馬克java社區(qū)：想想生活中有句話叫做開始差之毫厘，后來失之千里是什么意思？就有點誤差傳遞的感覺。關鍵他們之間的數學關系是什么？我們得能求出來。









首先前向的信號計算和過去還是一樣。















從以上公式看，w和b都是變量，而w求偏導時，結果是i1，i2，out h1,out h2,而對于b1和b2求偏導時，結果就是1和1。其他的都是一樣的。





輸出單元層的訓練求解規(guī)則：





（購買完整教程）










從以上總結最重要的規(guī)律：