銅靈 伊瓢 發自 凹非寺
量子位 報道 | 公眾號 QbitAI
“單個神經元不可靠！”
一項關於神經元的研究，讓眾人看嗨了。
這項研究通過在小鼠身上做實驗，先展示了神經元“不靠譜”的一面：
單個神經元兩次對相同視覺刺激的反應，竟然是不一樣的。
對於神經元的“不靠譜”性，此前的解釋一直集中在噪音這個點。
而這項研究卻實實在在推翻了此前觀點，作者通過實驗證明了：即使有噪音，神經元還是有能力獲取高精度的視覺編碼。
主導這項研究的小姐姐認為，小鼠感知能力的限制不由視覺皮層的神經噪音決定，而是受神經解碼過程的限制。
在這項推特轉發超過600，點贊超過2000的研究下，神經科學家和AI科學家一起興奮，“Pretty Cool”“Awesome”“Great story”等讚美聲此起彼伏。
雖然不是AI界日常討論的人工神經網絡，而是自然界中動物們身上存在的生物神經網絡，兩者並不完全一樣，但動物們自身的特徵，卻往往是啟發科學家們的關鍵。
高通深度學習研究工程師Jakub Tomczak想到，它和AI中的Dropout十分類似，像是近似貝葉斯平均。
Dropout，正是指的Geoffrey Hinton等人在2014年提出的防止人工神經網絡過擬合的正則化技術，現在已經成為了谷歌手中的專利。
AI工程師@AIexLaurence表示，就像AI一樣，單個神經元（或者節點）並不表示特定的概念，是由神經網絡中特定的激活模式決定的。
AIexLaurence還認為，這項生物學研究可能會對神經網絡權重的研究有啟發。
還有人認為，在神經元自帶不確定性的前提下，大腦依賴投票/閾值機制產生的反饋信號來判定輸入的感知信息。另外，除了神經的原因之外，也可能是動物眼睛的微觀結構決定。
能讓搞生物的和搞計算機的有同樣的high點，這具體是項怎樣的研究？
“不靠譜”的神經元
事情，還要從神經元說起。
對，就是中學生物裡構成神經網絡的那個長長的細胞。
可能不少AI領域的同學還不知道，在神經科學領域，神經元和AI界的擁有不確定性的神經網絡一樣，都是不靠譜的存在。
神經元，就像一個腦洞清奇的少年，即使是同樣的信息呈現在他面前，他每次都會給出不一樣的反應。
究其原因，在於噪聲頻發，影響神經編碼。
神經編碼，跟計算機的編碼不是一回事。由於感覺信息與其它信息，都是由腦中的生物神經網絡來承載與呈現的，所以人們認為，神經元有某種編碼能力，處理你身體感知到的光線、聲音、味道等信息。
也就是說，神經編碼過程是試圖建立從刺激到反應的映射，著眼於理解神經元如何對不同的刺激作出反應，建立模型來預測神經元對特定刺激的反應。
而與之對應的神經解碼過程，研究的是相反方向的映射，也就是從已知的反應來推算外界刺激重建特徵。
在這個過程中，是一個“多變”的過程，但總是被冠以“不靠譜”的評價。舉個例子：
假如你問一個神經元這個直角屏幕的角度是多少，它一開始說是75度，五分鐘後說是10度，每一次你再問的時候都是一個接近90度的隨機數。
再舉個例子，你在計算器上輸入3+7，它每次都給出的是不同的答案……
是不是有種熟悉的感覺？
沒錯，什麼人工不人工的智能都差不多。
可是，正經的計算設備不應該是這樣的。
這就是讓神經科學家很為難的地方，單個神經元得出的結論是不可靠的（灰色的點），需要多次測量來平均噪聲（圖中黑線）。
那麼，一個神經元都這麼不靠譜了，一群不靠譜的神經元竟然能把動物們的神經系統構建的這麼精準，真是個奇蹟。
那麼，神經元們是怎麼做到的呢？
這涉及到信噪比的問題。信號強度和疊加次數成正比，噪聲強度和疊加次數的平方根成正比，因此疊加次數越多，信噪比越高。
有人猜測，也許在我們的大腦中，它的運算機制就是數百萬個嘈雜神經元結論的平均值，通過這種方法來判斷看到的是什麼。
可以從幾何的角度解釋這個問題，當噪聲與刺激驅動的相同神經子空間對齊時，噪聲只能影響受到刺激部分的編碼。至少，一些神經噪聲與刺激子空間正交，所以不會有什麼壞的影響。
但是，這些只是理論猜想，如果真的想靠實踐算出噪聲對神經編碼的影響，這很難，畢竟只有少量信息限制的噪聲也會對神經編碼有很大影響。
所以，基於以上推測，我們就大致為這種“明明個體不靠譜，群體卻很靠譜”的行為歸納出原因：
把每個神經元得出的結論“神奇組合”一下，得出的平均值，就是最終那個靠譜的結果。
現在，做個實驗，解個碼證明一下吧！
小鼠視力實驗
此前有人做過對猴子的解碼，證明拿一小撮神經元做實驗和用上所有神經元差不多。
在這個背景下，我們的主角出場了。
一位神經科學家小姐姐Carsen Stringer用小鼠做實驗，探究小鼠的感知與單個神經元的關係。
在這次實驗裡，小姐姐和她的團隊沒有對猴子下手，而是換了一種動物，盯上了小鼠。
研究人員的目標是，通過記錄小鼠20000個神經元的數量，測量視覺刺激定向解碼誤差的下限。
這項實驗的大前提是：如果限制信息噪聲的確有影響，解碼錯誤必須漸近於某個非零值。
具體的給小鼠設定的挑戰是：
讓小鼠看角度。
基於我們前面已知的“不靠譜”這個特性，可以預知，給予小鼠相同的視覺刺激，神經元的每次反應完全不同。
研究人員用顯微鏡同時記錄了約20000個神經元的活動。這是一個部分的隨機顏色：
然後，使用線性迴歸找到每個神經元的權重，將它們的活動組合成“超級神經元”，對它們的判斷進行平均。
這些超級神經元比單個神經元的噪聲要小很多。其實，在95%的實驗中，超級神經元能夠分辨45度和46度之間的微小差異。
一度之差，人類都判斷不出來吧。想象一下，讓一隻老鼠分辨出這麼微小的差異……另一位研究人員@BenucciLa真的嘗試了，老鼠只能分辨出超過29度的差異，比神經元差100倍。
最終，雖然研究人員們把解碼的誤差做到很低了，但是並沒有出現期待中漸近的狀況。
也就是說，視覺皮層對老鼠的視覺特徵進行了高精確度的編碼，但老鼠依然在辨別方向任務中完成得很差。
鍋在解碼過程
於是，研究人員得出結論，老鼠能接受到的信息，比人類大腦能接受的差1000倍。
雖然老鼠不能將這些信息傳遞給人類，但他們也是可以利用這些信息的。比如，這些信息可以作為一種計算的第一步。
這也進一步說明，神經信號和行為之間的差異不能用刺激的類型來解釋，無論是通過行為狀態還是反覆試驗感知直覺測試。
因此，小姐姐得出結論，小鼠感官知覺的侷限性不是由感覺皮層的神經噪聲決定的，而是由神經元下游的解碼過程限制。
作者簡介
這項研究的一作Carsen Stringer小姐姐，是倫敦大學學院（UCL）計算神經學博士、美國Janelia研究院的神經網絡科學家。
神經元、視覺皮層和小鼠是小姐姐的日常，此外，她還發過各種Nature、Science等頂級期刊。
傳送門
論文：High precision coding in mouse visual cortex
地址：https://www.biorxiv.org/content/10.1101/679324v1
代碼：
https://github.com/MouseLand/stringer-et-al-2019
— 完 —
誠摯招聘
量子位正在招募編輯/記者，工作地點在北京中關村。期待有才氣、有熱情的同學加入我們！相關細節，請在量子位公眾號(QbitAI)對話界面，回覆“招聘”兩個字。
量子位 QbitAI · 頭條號簽約作者
վ'ᴗ' ի 追蹤AI技術和產品新動態