「新智元專訪」神經元本身也能編程,神經網絡學習能力遠超預期

「新智元專訪」神經元本身也能編程,神經網絡學習能力遠超預期

新智元報道

「新智元專訪」神經元本身也能編程,神經網絡學習能力遠超預期

當神經解剖學家 Santiago Ramóny Cajal 在 100 多年前首次描述神經元和突觸時,他提出增加突觸的數量或突觸連接的強度,可能是學習的基礎。這一假說隨後由 Donald Hebb 等人更明確地制定,成為現在的主流觀點——學習的基本機制是突觸強度的變化。

這意味著學習的本質是神經元細胞對特定輸入的去極化或超極化程度(脈衝概率)。換句話說,改變突觸強度是形成記憶的主要機制。

延伸到如今人工智能的領域,就成了在人工神經網絡中,神經元之間的“突觸權重”的變化形成了學習的基礎。

沒有任何假說或理論提到了神經元本身在學習過程中所扮演的角色。

日前,瑞典隆德大學的一項研究發現,單個神經元不僅能夠學會對某個單一的信號產生響應,還能學會對在精確的時間間隔發出的一系列信號產生響應。

研究通訊作者、瑞典隆德大學神經生理學教授 Germund Hesslow 表示,單個神經元的反應就像是用手指彈一下,便奏響了一連串預先編輯好的調子,而不是僅僅只發出一個音階。

在接受新智元採訪時,Hesslow 表示,這項基礎的研究工作對神經科學、人工智能,以及整個研究“如何學習”的研究都具有重要意義。

神經元本身也能“編程”,或帶來下一代深度學習

長久以來,“學習”一直被視為基於人腦神經元之間連接增強或變弱的過程。兒童自閉症、ADHD 以及語言障礙都與這樣或那樣的基礎學習機制紊亂有關。

瑞典隆德大學的研究人員此前就在實驗中發現,神經元細胞能夠學會時間上的關聯,也就是根據接收到的刺激,發出在時間上有規律延後的信號。

在他們本月初發表於 PNAS 的一項最新研究中,研究人員進一步發現,人腦神經元細胞不止能學會針對單一的一種信號產生響應,還能夠學會一系列複雜的響應。

研究人員在論文中寫道,實驗中神經元細胞所展現出的學習序列的能力表明,小腦控制和協調運動的行為可能更多依賴於細胞內的機制,而不是先前以為的依賴於神經網絡

研究還表明,單個神經元中信息存儲的能力大大超過預期,性質也與當前主流觀點(dominant paradigm)所認為的十分不同。

瑞典隆德大學的神經生理學研究者、Germund Hesslow 教授的同事 Dan-Anders Jirenhed 則表示,這項工作意味著“大腦的學習能力(learning capacity)遠遠比以前認為的要大”。

Jirenhed 認為,未來擁有“經過訓練的神經元”的人工神經網絡,將能以更高效的方式處理更復雜的任務。

神經元也能存儲信息,大腦學習能力遠超預期

隆德大學研究人員關注神經元關聯學習(associative learning)和時間學習(temporal learning)的能力。

在實驗中,神經元細胞在幾小時的訓練時間內,學會了兩種不同的信號(也即對這兩種不同的信號產生響應)。第一種信號之間的延遲是 0.25 秒,第二種信號之間的延遲為 0.5 秒。

研究人員表明,神經元細胞不僅可以學會單個的信號,還能學會對一系列信號產生響應。當輸入(刺激)為“信號 - 短暫暫停 - 信號 - 長暫停 - 信號”時,神經元細胞給出的響應也具有完全相同的時間間隔:“響應 - 短暫停止 - 響應 - 長暫停響應”。

如果神經元細胞可以存儲時間間隔,那麼原則上神經元細胞也可以存儲其他信息,例如距離、方向等。當然,這將意味著需要一種方式讓神經元“讀出”這樣的信息,目前還不知道是否可能。但是,這是一個令人興奮的想法。

Hesslow 教授告訴新智元,羅格斯大學的神經科學家 Charles Gallistel 多年來一直認為,記憶不是以突觸強度的形式存儲,而是神經細胞中的某種定量表徵(quantities are represented within nerve cells),儘管這一假說目前尚未得到足夠多的證據支持。

不過,隆德大學的研究證明了至少神經元細胞是可以存儲時間間隔的,也為將來進一步研究做了鋪墊。

研究人員研究的細胞稱為“Purkinje Cell/Neuron”,位於小腦。小腦是人腦中控制身體位置、平衡和運動的部分。

「新智元專訪」神經元本身也能編程,神經網絡學習能力遠超預期

隆德大學研究人員研究的 Purkinje 細胞。Purkinje 細胞位於小腦,在學習一系列需要精確把握時間節奏的複雜運動中起著重要的作用,例如彈奏鋼琴時手和手指的運動。來源:Germund Hesslow

Purkinje 細胞是脊椎動物小腦皮層中體積很大的一種神經元,在調節和維持運動動態的正常功能方面起著重要作用。單個 Purkinje 細胞在下圖中由紅色標識,擁有大的瓶狀細胞體,單個長軸突和許多線狀分支延伸(或稱樹突,負責接收來自其他細胞的電化學脈衝信號)。通過釋放抑制性神經遞質 γ-氨基丁酸(GABA),Purkinje 細胞減少其他神經元的活動(發射率),將脈衝發送到中樞神經系統的其他地方。因此,Purkinje 細胞構成小腦皮質的唯一輸出,調節運動功能的水平和程度。圖片來源:Yinghua Ma and Timothy Vartanian, Cornell University, Ithaca, NY; courtesy of the National Institute of General Medical Sciences, National Institutes of Health, Bethesda, MD

論文及實驗介紹

  • 論文:小腦 Purkinje 細胞對序列的習得反應

「新智元專訪」神經元本身也能編程,神經網絡學習能力遠超預期

對小腦中關聯學習的研究以前專注於單次的運動。

例如,在眨眼時,受試者能夠學會根據條件刺激(Conditional Stimulus,CS)在適當的時間眨眼,比如無條件角膜刺激(Unconditional corneal Stimulus,US)後重復的一個音調。

這些條件刺激(CS 和 US)會傳遞到小腦的 Purkinje 細胞,後者會獲得精確的時間間隔響應,驅動明顯的眨眼反應。Purkinje 細胞的這種條件反應的時間由 CS-US 間隔決定,與輸入信號中的時間模式無關。

除了單次運動外,小腦在學習諸如彈鋼琴等需要多次精確定時的肌肉收縮的複雜運動程序中具有重要作用。

在目前的工作中,隆德大學的研究人員發現,Purkinje 細胞可以學會雙重間隙反應(double pause response),也即對擁有 2 個間隙的序列輸入信號產生響應。

雖然這項研究針對的是小腦的 Purkinje 細胞,與我們常說的大腦神經元有所不同。但這一研究發現確實改變了以前對神經元細胞“學習能力”(learning capacity)的認知。

正如研究人員所說,以前認為學習更多是發生在神經元之間連接增強或減弱的過程中。現在,神經元細胞本身也具有一定的學習能力,或者說“可編程”。

這一發現如果能切實轉換到人工神經網絡的設計上,無疑將帶來更上一級的人工神經網絡,從而實現下一代的深度學習。

編譯來源

  1. 隆德大學新聞稿:http://www.lunduniversity.lu.se/article/neurons-can-learn-temporal-patterns

  2. PNAS 論文:http://www.pnas.org/content/early/2017/05/17/1621132114.full

相關推薦

推薦中...