機器學習系列11：神經網絡
什麼是神經網絡(Neural Networks)呢?最開始科學家想用算法去模擬大腦達到人工智能。通過一系列的實驗發現，大腦是通過神經元進行工作的，神經元之間通過電信號傳遞信息。於是他們就開始模擬神經元的工作過程，用算法去模擬神經元，這就形成了神經網絡。神經網絡可以用來學習複雜的非線性假設模型。
如下圖，藍色圈模擬輸入信息，黃色圈模擬神經元，假設函數 h_θ(x) 模擬輸出信息，該函數就是我們之前學過的邏輯函數(Logistic Function)，又稱為Sigmoid Function。
那麼現在一個神經元模擬好了，但是大腦肯定不是靠一個神經元工作的，現在開始模擬多個神經元的工作過程，如下圖：
其中 Layer 1 層模擬輸入信號，連線代表信號傳遞的方向。Layer 2 層表示隱藏層，這一層的輸入輸出都是不可見的，因此叫隱藏層，這一層通常會有很多層。 Layer 3 層為輸出層，這一層會輸出結果。按照從 Layer 1 層到 Layer 3 層這個方向傳播叫做前向傳播。
通常會在每一層都加上一個偏置單元，如下圖：
每一個神經元也就是假設函數 h_θ(x) 的構造如下：
表示第 j 層第 i 個神經元。
表示第 j 層神經元的參數矩陣。
在邏輯迴歸中，求最佳的參數可以用最小化代價函數來求，那麼神經網絡中也有參數，這些參數我們可以用同樣的辦法進行求解。先用我們最熟悉的邏輯迴歸代價函數來進行類比，邏輯迴歸的代價函數如下(其中紅線部分為對參數進行正則化，θ_0 不需要正則化)：
類似地，神經網絡的代價函數如下：
其中：
L = 神經網絡的層數;
S_l= l 層有多少個單元;
K = 輸出單元的數目。
乍一眼看上去挺複雜，其實類比邏輯迴歸的代價函數來看，思想都是一樣的。
相關推薦
'微軟亞洲研究院向國內高校教師和從業者推出AI教育與學習共建社區'
"微軟亞洲研究院人工智能教育團隊日前已經創建名為人工智能教育與學習共建社區為國內教師和從業者提供幫助。據介紹該社區是在教育部指導下依託人工智能開放科研教育平臺，由微軟亞洲研究院研發團隊和學術合作部建立。在學習社區中微軟亞洲研究院將提供人工智能應用開發的真實案例，配套的教程以...
'9月19日不單單隻有華為Mate 30系列手機'
"距離華為Mate 30系列手機新品發佈會已經越來越近了，網上關於華為Mate 30手機的消息也是越來越多，什麼“電磁爐、奧利奧、浴霸式“攝像頭等更是眾說紛紜，據悉此次全新的華為Mate 30系列手機會同往年一樣，共有四款機型發佈：Mate 30、Mate 30 X、Mat...
'學編程時搞不懂邏輯怎麼辦，要不玩個遊戲放鬆學習一下！'
"邏輯學習每位小萌新在學習程序開發的時候，都會遇到邏輯問題，學習的效果甚微，可能就是學習邏輯不夠哦，那麼除了學習，適當的放鬆也是不錯的喲，下面推薦一個遊戲。這個遊戲的名字就叫 異常，在其他app商店都可以找到。遊戲介紹《異常》是一個關於AI編程的遊戲。在遊戲中，玩家要幫助虛...
'別說了，我們作品集的分析圖都用灰系！（附全套素材）'
" 文末附佛系分析圖素材合集 很多人以為“佛系”是我國的獨有特色沒想到在設計方面國外一早就有那為什麼國外都這麼喜歡這種“性冷淡”的色彩呢？看完上面的圖紙不難發現，他們都有共同的特徵 飽和度低 再看看近幾年pantone公佈的流行色系這些流行色都很柔軟、舒緩、如空氣一般輕盈。...
推薦中...