BP（back propagation）誤差逆?zhèn)鞑ド窠?jīng)網(wǎng)絡(luò)

馬克-to-win @ 馬克java社區(qū)：防盜版實名手機尾號：73203。BP神經(jīng)網(wǎng)絡(luò)是一種按誤差反向傳播的神經(jīng)網(wǎng)絡(luò)，它的基本思想還是梯度下降法，中間隱含層的誤差和最后一層的誤差存在一定的數(shù)學(xué)關(guān)系，（可以計算出來），就像誤差被反向傳回來了，所以顧名思義BP。馬克-to-win @ 馬克java社區(qū)：想想生活中有句話叫做開始差之毫厘，后來失之千里是什么意思？就有點誤差傳遞的感覺。關(guān)鍵他們之間的數(shù)學(xué)關(guān)系是什么？我們得能求出來。









首先前向的信號計算和過去還是一樣。















從以上公式看，w和b都是變量，而w求偏導(dǎo)時，結(jié)果是i1，i2，out h1,out h2,而對于b1和b2求偏導(dǎo)時，結(jié)果就是1和1。其他的都是一樣的。





輸出單元層的訓(xùn)練求解規(guī)則：





（購買完整教程）










從以上總結(jié)最重要的規(guī)律：