魏少軍：發展人工智能芯片中國還缺什麼？（附演講PPT下載）

<p>Source：魏少軍教授演講 摩爾精英現場速記</p><p>人工智能作為近年來比較熱門的一個發展趨勢，對於芯片的要求到底是怎麼樣的呢？2017年7月14日，在首屆“青城山中國IC生態高峰論壇”魏少軍教授發表了題為《人工智能大潮中的芯片發展思路》的主題演講，詳細介紹了在人工智能大潮中國內企業應當如何發展人工智能芯片。</p><p>在魏少軍教授看來，人工智能主要分為三個層次：第一個層次叫應用，第二個層次是方法，第三個層次是工具。從芯片的角度來說，顯然歸屬於工具。</p><p>中國有一句古話，叫做“工欲善其事，必先利其器”。魏少軍教授認為，工具不行的話，再好的技術都沒有用。所以魏少軍教授今天主要強調的是工具的作用。</p><p>人工智能是一個老的新話題</p><p>我們看到，近年來，在人工智能領域有兩件事情，刺激了人們的神經。</p><p>首先是在去年，谷歌的alphago和兩位世界級圍棋選手分別進行了對弈，而alphago都取得了勝利。對於這件事情，很多人都認為這件事情代表了人工智能取得了重大的進步。</p><p>但是，魏少軍教授對於這件事情並沒有抱著過於悲觀的態度。他認為，從alphago與人類對弈的初衷目的來說，並沒有達到最初目標。最開始谷歌的目標是alphago在沒有經過人工干預的情況下獲得最終的勝利，從而證明機器做能夠自我學習，戰勝人類。但是最終的結果顯示，這兩場比賽，都有人工干預的成分在其中，alphago才取得了最終的勝利。</p><p>所以說，在魏少軍教授看來，人工智能並沒有目前人們想象中的那麼好。</p><p>第二件事情就是在2011年，IBM舉行了一場名叫《危險邊緣》的比賽，這場比賽更能夠反映人工智能作用。雖然比賽中計算機的體積不大，但是它的人工智能程度遠遠高於alphago。“與這類機器相比較而言，alphago只能算是專門用於下圍棋的機器。”魏少軍教授表示。</p><img src='full/c8d0674896d96e5825722fc1adfe84ba80fb9e89' img_width='798' img_height='529' alt='魏少軍：發展人工智能芯片中國還缺什麼？（附演講PPT下載）' inline='0'><p>在此背景之下，隨著人工智能的崛起，我們看到了一些很有趣的數據。</p><p>根據麥肯錫最新的數據顯示，人工智能初創企業的數量在這兩年呈現了爆發式的增長。到2016年增長到了389家，一直保持著兩位數的增長。</p><p>第二個數據是人工智能企業的融資額，到2016年發展到了50億美元。魏少軍教授坦言，集成電路除了在併購方面，要想在初創企業領域達到50億美元的融資額，還有很大的難度。</p><p>第三個是，人工智能企業的併購數量。在2016年達到了85家。</p><p>最後一個是人工智能企業的股權融資數量。達到了658家，增長的速度幾乎難以想象。</p><p>魏少軍教授認為，如果風險投資和融資，在某個領域能夠達到非常活躍的程度，就表示這個行業處於發展上升期。</p><p>但是，儘管如此，魏少軍教授認為人工智能依舊是一個老的新話題。</p><img src='full/cef27a48ece946674406b031e037613f3d08a091' img_width='795' img_height='525' alt='魏少軍：發展人工智能芯片中國還缺什麼？（附演講PPT下載）' inline='0'><p>機器學習的後向與前向型</p><p>其實人工智能早在上世紀50年代就已經被提出來了。</p><p>“所謂人工智能就是製造智能機器的科學工廠。”這是非常經典的一句話，這句話意思就是，人工智能需要通過機器來來模仿人的認知、推理、學習的能力。</p><p>但是在之後的三十年當中，人工智能並沒有獲得非常高速的發展。直到上世紀80年代，才出現了機器學習這一概念。這也是目前人工智能的一個主要的領域。</p><p>所謂機器學習就是實現人工智能的一個主要途徑。通過學習來對未來進行預測。近年來，這一概念，逐漸成為趨勢，其主要原因在於，計算機神經網絡等概念的興起。這可以說這是機器學習的一個分支。</p><p>從以上的發展過程，我們可以總結出人工智能發展的三部曲：傳統數據挖掘、預測、決策。</p><p>傳統數據挖掘是比較基礎的功能，目前在各個行業被廣泛應用。而預測，舉一個例子來說，就是用來預測客戶在未來最有可能購買哪一個產品，或者做出某一個決定。</p><p>而最後一個階段——決策。就是決定下一步將需要做什麼，這一步主要應用於比較領先的數據和互聯網公司。所以我們看到的結果，基本就是谷歌百度這些互聯網企業在應用這一技術。其他的公司，反而用很少。</p><p>傳統數據挖掘屬於後向型，就是挖掘過去的事情，而預測和決策則是根據數據判斷沒有發生的事情。在魏少軍教授看來，人工智能最主要的應用還是用於預測未來。所以，對於我們來說，目前最主要的就是對於人工智能要有一個更加準確的認識。</p><p>智能芯片是人工智能的根本</p><p>在今天的技術條件下，不管做什麼事情，最重要的就是芯片。沒有芯片，我們什麼都做不了，我們很難找到第二種實現方法。在這種情況下，我們就需要靜下心來研究如何使用芯片來實現更多的目標。魏少軍教授表示。</p><p>那麼人工智能芯片是什麼呢？</p><p>從目前主要的幾個機器學習芯片平臺來看。</p><p>首先是GPU。目前GPU的計算能力要比CPU高很多倍。從全部圖形芯片市場來看。英特爾目前佔了71%，英偉達佔了16%，AMD佔了13%。但是從分立式GPU市場來看，英偉達佔了71%，AMD佔了29%。所以英偉達在分立式GPU市場產品中佔有絕對的優勢，其產品廣泛應用於數據中心的人工智能訓練。</p><img src='full/e8bdfb171d3a6350ecf0560c823ac1b61774a4ca' img_width='797' img_height='526' alt='魏少軍：發展人工智能芯片中國還缺什麼？（附演講PPT下載）' inline='0'><p>而目前，人工智能使用的主要是分立式GPU。當然了，AMD也提供了相關的異構CPU和GPU產品。</p><p>但是，無論是GPU，還是CPU，這兩個領域都無法在移動設備上使用，其原因在於功耗過大。所以說目前主要是互聯網企業在使用這些設備。不過，互聯網企業也不僅僅使用GPU產品，他們也使用其他的一些人工智能芯片。</p><p>此外，人工智能芯片的第二個發展方向就是FPGA和TPU。</p><p>FPGA所實現的人工智能芯片，能夠在相同的情況下，功耗下降到GPU環境的20%。但是這依舊很難在移動設備上使用。</p><p>而TPU的問題在於精度不高。所以TPU主要適用於不需要極高精度的機器學習相關計算。與GPU相比，TPU旨在以較低的精度來提高性能，功耗下降到GPU環境的10%左右。</p><p>這樣的特點，使得最近一段時間以來，TPU比較受到推崇。</p><p>此外魏少軍教授還提到了，另外兩個機器學習平臺：NA和IMP。</p><img src='full/d796ce6d7fff48bf368c71a3306f5d73e8a9535f' img_width='795' img_height='532' alt='魏少軍：發展人工智能芯片中國還缺什麼？（附演講PPT下載）' inline='0'><p>魏少軍教授認為，NA可能就是未來機器學習發展的主要方向，因為基於其特點，可以應用於先進的機器學習，基於刺激的學習機制等等。</p><p>另一個比較受到推崇的芯片就是IBM推出的TrueNorth。據瞭解該芯片，郵票大小、重量只有幾克，但卻集成了54億個硅晶體管，內置了4096個內核，100萬個“神經元”、2.56億個“突觸”，能力相當於一臺超級計算機，功耗卻只有65毫瓦。</p><p>這種芯片將數字處理器當作神經元，把內存作為突觸。與傳統的馮·諾依曼結構不一樣，它的內存、CPU和通信部件完全集成在一起。因此信息的處理完全在本地進行，而且由於本地處理的數據量並不大，傳統計算機內存與CPU之間的瓶頸不復存在。同時，神經元之間可以方便快捷地相互溝通，只要接收到其它神經元發過來的信號，這些神經元就會同時動作。</p><p>這種芯片的學習能力極強。但是這是IBM發展人工智能芯片的第一步。IBM 的最終目標是希望建立一臺包含 100 億個神經元和 100 萬億個突觸的類</p><p>腦計算機。這樣的計算機要比人類大腦的功強大 10 倍，功耗約 1000瓦，而且體積不到兩升，與我們大腦的大小相當。</p><img src='full/9bdeb7d3f379c1024f5f0b8f92ae321cf7713335' img_width='795' img_height='528' alt='魏少軍：發展人工智能芯片中國還缺什麼？（附演講PPT下載）' inline='0'><p>構成智能芯片的關鍵要素</p><p>瞭解構成智能芯片的關鍵要素，首先我們需要理解智能這一概念。</p><p>在魏少軍教授看來，這其中包含的幾點要素，首先是智慧。智慧是人所特有的一樣東西。其次是能力。而智能則是智慧與能力兩者的合稱。</p><p>詳細來說，人工智能，實現這一能力主要通過感知、傳輸、存儲、處理、決策、傳輸、執行等一系列過程來實現。但是人腦作為人體中最神祕的一部分，思考思維的過程中是如何具體運行的，到現在還是一個祕密。所以以上這一過程只是一個大概的概念。</p><p>但是，從以上大概的概念我們可以看出，這一過程與我們當前的人工智能的過程，有很高的重合度。</p><p>在魏少軍教授看來，以上的這一過程，感知和傳輸能力主要體現在能力方面，傳輸和執行也主要表現在能力方面，而其中的存儲、處理、決策等方面，則表現為智慧。</p><p>那麼結合人類的大腦，我們就能夠更深入的實現人工智能。之前所說的IBM所設計的處理器，就與人的神經元的數量和結構方面有著很相似的地方。</p><p>從人工智能芯片的架構來看，前端有很多的傳感器，後端則是很多的執行器，而連接著兩個部分的，絕不僅僅只是單一的芯片，而需要很多的功能。</p><p>在此基礎上，我們總結出了，人腦的的相關的工作結構，其中包括：多輸入/多輸出系統；高度複雜的互連結構；多任務且高度並行化運行系統；多處理器單元系統；並行分佈式存儲；並行分佈式軟件；分佈式處理與集中控制系統。</p><p>綜上所述，構成智能芯片的關鍵要素到底有哪些呢？在魏少軍教授看來，主要包含一下部分：</p><p>一． 可編程性：適應算法的演進和應用的多樣性；</p><p>二． 架構的動態可變性：適應不同的算法，實現高效計算；</p><p>三． 高效的架構變換能力：&lt; 10 Clock cycle， 降低開銷；</p><p>四． 高計算效率：避免使用指令這類低效率的架構。</p><p>五． 高能量效率：~5TOps/W</p><p>某些應用：功耗 &lt; 1mW</p><p>某些應用：識別速度 &gt; 25f/s</p><p>六． 低成本：能夠進入家電和消費類電子；</p><p>七． 體積小：能夠裝載在移動設備上；</p><p>八． 應用開發簡便：不需要芯片設計方面的知識；</p><p>但是，魏少軍教授認為，目前的CPU、CPU+GPU、CPU+FPGA、CPU+ASIC的作法均不是理想的架構。</p><p>所以說雖然目前國內的人工智能發展比較火熱，但是如果我們不能夠從架構方面做出改變的話，就很難實現真正的突破。</p><p>那麼如果如何解決這一問題呢？這其中就涉及到軟件定義芯片的問題。</p><img src='full/c174741e21662bb76089d51785513fb5202a18e2' img_width='795' img_height='531' alt='魏少軍：發展人工智能芯片中國還缺什麼？（附演講PPT下載）' inline='0'><p>軟件是核心，芯片是基礎</p><p>要實現以上的目標，需要從芯片和軟件兩個方面，通過結合來實現。</p><p>在魏少軍教授看來，智能軟件就是實現智能的載體，而智能芯片則承載了所需的計算。實現智能的核心是軟件，而支撐智能的基礎是芯片。</p><p>關鍵是如何更好的將軟件和硬件結合在一起。</p><p>魏少軍表示，實現這一目標的最好的方式就是軟件定義芯片。在此基礎上為魏少軍教授提出了軟件定義芯片（SDC）的概念。</p><p>但是很多人就說了，FPGA也是可以通過軟件來定義的，那麼FPGA不可以實現這些目標嗎？</p><p>魏少軍教授表示目前FPGA主要存在著十大缺陷：</p><p>1. 細粒度：由於要實現比特級的運算，運算顆粒度必須為細粒度；</p><p>2. 配置信息量大：通常為幾兆到十幾兆字節；</p><p>3. 配置時間長：通常需要十幾毫秒到幾十毫秒；</p><p>4. 靜態編程：一旦配置完畢，不可更改。如果要改變FPGA的功能，只能下電或在線重新載入配置信息；</p><p>5. 邏輯不可複用：所有電路必須全部裝入FPGA，複用性為零；</p><p>6. 面積效率低：每個LUT只能實現一位運算，面積效率只有5%。一個千萬門級的FPGA只能實現幾十萬門的邏輯電路；</p><p>7. 能量效率低：由於邏輯利用率低，引發無效功耗巨大；</p><p>8. 需要特種工藝：FPGA往往需要最先進的製造工藝，且需對工藝進行特別調整；</p><p>9. 電路設計技術：應用者必須具備電路設計知識和經驗；</p><p>10. 成本高昂：目前的FPGA價格在幾十到幾萬美元一片。</p><p>可重構計算芯片技術與深度學習</p><p>但是，對於軟件定義芯片來說，也面臨的幾個問題。</p><p>因為對於軟件定義芯片來說，軟件的規模可以任意大，但是硬件的規模總是有限的，所以首先需要將軟件劃分成與硬件規模相適應的模塊，逐塊運行，其次，硬件結構必須動態可變以適配每個軟件模塊的功能。</p><p>為了實現這一目標，這就需要我們解決若干問題，首先是計算硬件架構和功能，必須動態地、實時地跟隨軟件的變化而變化。</p><p>那麼我們就可以將軟件分為兩個部分，計算和控制部分。魏少軍教授表示。“根據控制單元的要求，配置計算單元陣列並執行。根據軟件的要求，將劃分後的任務，逐塊送到數據通道執行。”雖然，在架構上與傳統的計算機基本相同，但是不一樣的地方在於。所需要的編譯器與傳統的編譯器是完全不同的。而這就是我們可以創新的所在。</p><img src='full/da7d66079f51a950e5d172017fbf0815ede1aa89' img_width='792' img_height='532' alt='魏少軍：發展人工智能芯片中國還缺什麼？（附演講PPT下載）' inline='0'><p>從幾種經典的集成電路的結構的比較，可以看到。</p><p>ASIC只有用量足夠大時才能夠分攤前期投入，獲得低成本。FPGA不支持軟件。使用者需具備電路設計的知識，先進行電路設計，再將電路映射到芯片上。RCC：可重構計算芯片。支持軟件硬件編程，硬件隨軟件變化而變化。</p><p>最後，魏少軍教授總結了我們需要關注的幾點內容：</p><p>1.機器智能是長久以來人類追求的目標，也是近期科學研究的熱點：</p><p>2. 現階段，由於人腦的機理尚未被完全揭示，類人腦計算機只好採用、也只能依託現有的芯片和軟件技術來模擬。但是其運行機理完全不同於傳統的計算機；</p><p>3. 機器智能中，芯片是承載計算功能的基礎部件，軟件是實現智能的核心。智能芯片與傳統芯片不同，其最重要的特性是：滿足軟件不斷變化的計算需求；</p><p>4. 可重構計算芯片技術允許硬件架構和功能隨軟件變化而變化，實現了軟件定義芯片，具備處理器的靈活性和專用集成電路的高性能和低功耗，被公認為是突破性的下一代集成電路技術，具備了智能芯片的一些特性，未來具有廣闊的前景。</p><p>總結</p><p>從我國人工智能應用的發展情況來看，在應用上與國際差距不大，在方法上落後，在芯片上差半步。但是這差半步並不表示我們能夠追趕上國際企業。中國有一句古話叫行百里者半九十。</p><p>魏少軍教授表示，至少從他目前所瞭解的情況來看，國內雖然在做人工智能方面儘管說得很響。但是無論是技術路線還是方法，都沒有跳出國際劃定的範疇。所以，我們應當有意識地關注芯片範圍內的基礎的發展。尤其是在我們與國外在芯片能力方面還有很大的差距的前提下，如果不能夠解決這一問題，我們就很難超越國際玩家！</p><p>但是，中國也存在這一定的優勢。</p><p>中國的優勢主要是在應用上，至於在方法和基礎的工具上的優勢並不明顯，這可能跟我們現有的工業架構，特別是互聯網企業有關係。我們可以看到，人工智能的主要應用是互聯網起步得比較快一些，因為中國的互聯網僅次於美國，所以互聯網的優勢給我們帶來了人工智能的優勢！（文/劉燚）</p><p>關注公眾號<strong>半導體行業觀察</strong>在後臺（關注公眾號後的菜單頁面）回覆“魏少軍”，即可獲取本次演講的完整PPT。</p><p><strong>今天是《半導體行業觀察》為您分享的第1335期內容，歡迎關注。</strong></p><p><em>R</em></p><p>eading</p>