在這篇文章中，我們將去學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)知識(shí)。

本篇文章的學(xué)習(xí)需要對(duì)機(jī)器學(xué)習(xí)有著基本理解，如果你學(xué)習(xí)過(guò)一些機(jī)器學(xué)習(xí)算法，那就更好了。首先簡(jiǎn)單介紹一下人工神經(jīng)網(wǎng)絡(luò)，也叫ANN。很多機(jī)器學(xué)習(xí)算法的靈感來(lái)自于大自然，而最大的靈感來(lái)自我們的大腦，我們?nèi)绾嗡伎�、學(xué)習(xí)和做決定。有趣的是，當(dāng)我們觸摸到熱的東西時(shí)，我們身體里的神經(jīng)元會(huì)將信號(hào)傳遞給大腦的，然后大腦會(huì)產(chǎn)生讓我們從熱的區(qū)域撤退的反應(yīng)。我們可以根據(jù)經(jīng)驗(yàn)來(lái)進(jìn)行訓(xùn)練，根據(jù)我們的經(jīng)驗(yàn)，我們開(kāi)始做出更好的決定。使用同樣的類(lèi)比，當(dāng)我們向神經(jīng)網(wǎng)絡(luò)發(fā)送一個(gè)輸入（觸摸熱物質(zhì)），然后根據(jù)學(xué)習(xí)（先前的經(jīng)驗(yàn)），我們產(chǎn)生一個(gè)輸出（從熱區(qū)域退出）。在未來(lái)，當(dāng)我們得到類(lèi)似的信號(hào)（接觸熱表面），我們可以預(yù)測(cè)輸出（從熱區(qū)退出）。假設(shè)我們輸入了諸如溫度、風(fēng)速、能見(jiàn)度、濕度等信息，以預(yù)測(cè)未來(lái)的天氣狀況——下雨、多云還是晴天。這可以表示為如下所示。

讓我們用神經(jīng)網(wǎng)絡(luò)來(lái)表示它并理解神經(jīng)網(wǎng)絡(luò)的組成部分。神經(jīng)網(wǎng)絡(luò)接收輸入，通過(guò)使用激活函數(shù)改變狀態(tài)從而轉(zhuǎn)換輸入信號(hào)，進(jìn)而產(chǎn)生輸出。輸出將根據(jù)接收到的輸入、強(qiáng)度（如果信號(hào)由權(quán)值表示）和應(yīng)用于輸入?yún)��?shù)和權(quán)值的激活而改變。神經(jīng)網(wǎng)絡(luò)與我們神經(jīng)系統(tǒng)中的神經(jīng)元非常相似。

x1、x2、…xn是神經(jīng)元向樹(shù)突的輸入信號(hào)，在神經(jīng)元的軸突末端會(huì)發(fā)生狀態(tài)改變，產(chǎn)生輸出y1、y2、…yn。以天氣預(yù)報(bào)為例，溫度、風(fēng)速、能見(jiàn)度和濕度是輸入?yún)��?shù)，然后神經(jīng)元通過(guò)使用激活函數(shù)對(duì)輸入施加權(quán)重來(lái)處理這些輸入，從而產(chǎn)生輸出，這里預(yù)測(cè)的輸出是晴天、雨天或陰天的類(lèi)型。

那么，神經(jīng)網(wǎng)絡(luò)的組成部分是什么呢神經(jīng)網(wǎng)絡(luò)會(huì)有輸入層，偏置單元。一個(gè)或多個(gè)隱藏層，每個(gè)隱藏層將有一個(gè)偏置單元輸出層與每個(gè)連接相關(guān)的權(quán)重將節(jié)點(diǎn)的輸入信號(hào)轉(zhuǎn)換為輸出信號(hào)的激活函數(shù)輸入層、隱含層和輸出層通常稱(chēng)為全連接層

這些權(quán)值是什么，什么是激活函數(shù)，這些方程是什么？讓我們簡(jiǎn)化一下權(quán)重是神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的方式，我們調(diào)整權(quán)重來(lái)確定信號(hào)的強(qiáng)度。權(quán)重幫助我們得到不同的輸出。例如，要預(yù)測(cè)晴天，溫度可能介于宜人到炎熱之間，晴天的能見(jiàn)度非常好，因此溫度和能見(jiàn)度的權(quán)重會(huì)更高。濕度不會(huì)太高，否則當(dāng)天會(huì)下雨，所以濕度的重量可能會(huì)小一些，也可能是負(fù)的。風(fēng)速可能與晴天無(wú)關(guān)，它的強(qiáng)度要么為0，要么非常小。我們隨機(jī)初始化權(quán)重（w）與輸入（x）相乘并添加偏差項(xiàng)（b），所以對(duì)于隱藏層，會(huì)先計(jì)算z，然后應(yīng)用激活函數(shù)。我們稱(chēng)之為前向傳播。方程可以表示如下，其中為層的編號(hào)，對(duì)于輸入層。