作者：oschina
如果你經常想讓自己弄清楚機器學習和深度學習的區別，閱讀該文章，我將用通俗易懂的語言為你介紹他們之間的差別。機器學習和深度學習變得越來越火。突然之間，不管是瞭解的還是不瞭解的，所有人都在談論機器學習和深度學習。無論你是否主動關注過數據科學，你應該已經聽說過這兩個名詞了。
為了展示他們的火熱程度，我在 Google trend 上搜索了這些關鍵字：
如果你想讓自己弄清楚機器學習和深度學習的區別，請閱讀本篇文章，我將用通俗易懂的語言為你介紹他們之間的差別。下文詳細解釋了機器學習和深度學習中的術語。並且，我比較了他們兩者的不同，別說明瞭他們各自的使用場景。
什麼是機器學習和深度學習?
讓我們從基礎知識開始：什麼是機器學習？和什麼是深度學習？如果你對此已有所瞭解，隨時可以跳過本部分。
什麼是機器學習？
一言以蔽之，由 Tom Mitchell 給出的被廣泛引用的機器學習的定義給出了最佳解釋。下面是其中的內容：
“計算機程序可以在給定某種類別的任務 T 和性能度量 P 下學習經驗 E ，如果其在任務 T 中的性能恰好可以用 P 度量，則隨著經驗 E 而提高。”
是不是讀起來很繞口呢？讓我們用簡單的例子來分解下這個描述。
示例 1：機器學習和根據人的身高估算體重
假設你想創建一個能夠根據人的身高估算體重的系統（也許你出自某些理由對這件事情感興趣）。那麼你可以使用機器學習去找出任何可能的錯誤和數據捕獲中的錯誤，首先你需要收集一些數據，讓我們來看看你的數據是什麼樣子的：
圖中的每一個點對應一個數據，我們可以畫出一條簡單的斜線來預測基於身高的體重
例如這條斜線：
Weight (in kg) = Height (in cm) – 100
…這些斜線能幫助我們作出預測，儘管這些斜線表現得很棒，但是我們需要理解它是怎麼表現的，我們希望去減少預測和實際之間的誤差，這也是衡量其性能的方法。
深遠一點地說，我們收集更多的數據 (experience)，模型就會變得更好。我們也可以通過添加更多變量（例如性別）和添加不同的預測斜線來完善我們的模型。
示例2：颶風預測系統
我們找一個複雜一點的例子。假如你要構建一個颶風預測系統。假設你手裡有所有以前發生過的颶風的數據和這次颶風產生前三個月的天氣信息。
如果要手動構建一個颶風預測系統，我們應該怎麼做？
首先我們的任務是清洗所有的數據找到數據裡面的模式進而查找產生颶風的條件。
我們既可以將模型條件數據(例如氣溫高於40度，溼度在80-100等)輸入到我們的系統裡面生成輸出；也可以讓我們的系統自己通過這些條件數據產生合適的輸出。
我們可以把所有以前的數據輸入到系統裡面來預測未來是否會有颶風。基於我們系統條件的取值，評估系統的性能(系統正確預測颶風的次數)。我們可以將系統預測結果作為反饋繼續多次迭代以上步驟。
讓我們根據前邊的解釋來定義我們的預測系統：我們的任務是確定可能產生颶風的氣象條件。性能P是在系統所有給定的條件下有多少次正確預測颶風。經驗E是我們的系統的迭代次數。
什麼是深度學習?
深度學習的概念並不新穎。它已經存在好幾年了。但伴隨著現有的所有的炒作，深度的學習越來越受到重視。正如我們在機器學習中所做的那樣，先來看看深度學習的官方定義，然後用一個例子來解釋。
“深度學習是一種特殊的機器學習，通過學習將世界使用嵌套的概念層次來表示並實現巨大的功能和靈活性，其中每個概念都定義為與簡單概念相關聯，而更為抽象的表示則以較不抽象的方式來計算。”
這也有點讓人混亂。下面使用一個簡單示例來分解下此概念。
示例1: 形狀檢測
先從一個簡單的例子開始，從概念層面上解釋究竟發生了什麼的事情。我們來試試看如何從其他形狀中識別的正方形。
我們眼中的第一件事是檢查圖中是否有四條的線（簡單的概念）。如果我們找到這樣的四條線，我們進一步檢查它們是相連的、閉合的和相互垂直的，並且它們是否是相等的（嵌套的概念層次結構）。
所以，我們完成了一個複雜的任務（識別一個正方形），並以簡單、不太抽象的任務來完成它。深度學習本質上在大規模執行類似邏輯。
示例2: 貓 vs. 狗
我們舉一個動物辨識的例子，其中我們的系統必須識別給定的圖像中的動物是貓還是狗。閱讀下此文，以瞭解深度學習在解決此類問題上如何比機器學習領先一步。
機器學習和深度學習的對比
現在的你應該已經對機器學習和深度學習有所瞭解，接下來我們將會學習其中一些重點，並比較兩種技術。
數據依賴性
深度學習與傳統的機器學習最主要的區別在於隨著數據規模的增加其性能也不斷增長。當數據很少時，深度學習算法的性能並不好。這是因為深度學習算法需要大量的數據來完美地理解它。另一方面，在這種情況下，傳統的機器學習算法使用制定的規則，性能會比較好。下圖總結了這一事實。
硬件依賴
深度學習算法需要進行大量的矩陣運算，GPU 主要用來高效優化矩陣運算，所以 GPU 是深度學習正常工作的必須硬件。與傳統機器學習算法相比，深度學習更依賴安裝 GPU 的高端機器。
特徵處理
特徵處理是將領域知識放入特徵提取器裡面來減少數據的複雜度並生成使學習算法工作的更好的模式的過程。特徵處理過程很耗時而且需要專業知識。
在機器學習中，大多數應用的特徵都需要專家確定然後編碼為一種數據類型。
特徵可以使像素值、形狀、紋理、位置和方向。大多數機器學習算法的性能依賴於所提取的特徵的準確度。
深度學習嘗試從數據中直接獲取高等級的特徵，這是深度學習與傳統機器學習算法的主要的不同。基於此，深度學習削減了對每一個問題設計特徵提取器的工作。例如，卷積神經網絡嘗試在前邊的層學習低等級的特徵(邊界，線條)，然後學習部分人臉，然後是高級的人臉的描述。更多信息可以閱讀神經網絡機器在深度學習裡面的有趣應用。
問題解決方式
當應用傳統機器學習算法解決問題的時候，傳統機器學習通常會將問題分解為多個子問題並逐個子問題解決最後結合所有子問題的結果獲得最終結果。相反，深度學習提倡直接的端到端的解決問題。
舉例說明：
假設有一個多物體檢測的任務需要圖像中的物體的類型和各物體在圖像中的位置。
傳統機器學會將問題分解為兩步：物體檢測和物體識別。首先，使用一個邊界框檢測算法掃描整張圖片找到可能的是物體的區域；然後使用物體識別算法(例如 SVM 結合 HOG )對上一步檢測出來的物體進行識別。
相反，深度學習會直接將輸入數據進行運算得到輸出結果。例如可以直接將圖片傳給 YOLO 網絡(一種深度學習算法)，YOLO 網絡會給出圖片中的物體和名稱。
執行時間
通常情況下，訓練一個深度學習算法需要很長的時間。這是因為深度學習算法中參數很多，因此訓練算法需要消耗更長的時間。最先進的深度學習算法 ResNet完整地訓練一次需要消耗兩週的時間，而機器學習的訓練會消耗的時間相對較少，只需要幾秒鐘到幾小時的時間。
但兩者測試的時間上是完全相反。深度學習算法在測試時只需要很少的時間去運行。如果跟 k-nearest neighbors（一種機器學習算法）相比較，測試時間會隨著數據量的提升而增加。不過這不適用於所有的機器學習算法，因為有些機器學習算法的測試時間也很短。
可解釋性
至關重要的一點，我們把可解釋性作為比較機器學習和深度學習的一個因素。
我們看個例子。假設我們適用深度學習去自動為文章評分。深度學習可以達到接近人的標準，這是相當驚人的性能表現。但是這仍然有個問題。深度學習算法不會告訴你為什麼它會給出這個分數。當然，在數學的角度上，你可以找出來哪一個深度神經網絡節點被激活了。但是我們不知道神經元應該是什麼模型，我們也不知道這些神經單元層要共同做什麼。所以無法解釋結果是如何產生的。
另一方面，為了解釋為什麼算法這樣選擇，像決策樹(decision trees)這樣機器學習算法給出了明確的規則，所以解釋決策背後的推理是很容易的。因此，決策樹和線性/邏輯迴歸這樣的算法主要用於工業上的可解釋性。
End.
運行人員：中國統計網小編（微信號：itongjilove）
微博ID：中國統計網
中國統計網，是國內最早的大數據學習網站，公眾號：中國統計網
//www.itongji.cn