'吳恩達關於機器學習職業生涯以及閱讀論文的一些建議（附鏈接）'

來源：AI公園

本文約2800字，建議閱讀7分鐘。

本文將介紹關於吳恩達如何建立機器學習職業生涯的建議。

介紹

既然你已經在閱讀這篇文章了，那麼你可能已經知道該領域的先驅之一Andrew Ng是誰，並且你可能對會對他關於如何建立機器學習職業生涯的建議感興趣。

本博客總結了斯坦福大學CS230深度學習課程在YouTube上的演講：對職業發展的一些建議以及閱讀研究論文的方法，

鏈接：https://www.youtube.com/watch?v=733m6qBHjI&list=PLoROMvodv4rOABXSygHTsbvUz4G_YQhOb&index=9&t=0s

我建議大家多看看這堂課，內容很豐富。不過，我想不管你看不看，你都會發現這篇文章很有幫助。因此，我試圖在這裡概述這些建議。

跳到關鍵的要點部分。

Andrew特別提出兩項主要建議：

• 閱讀研究論文：他使用的非常有效的技巧，當他試圖在深度學習中掌握一個新主題時，他會閱讀研究論文。
• 在機器學習領域開創事業的建議。

讀研究論文

你如何通過閱讀研究論文來高效和相對快速地學習？所以，如果你想從學術文獻中學習，你應該做什麼，無論是你想學習建立一個感興趣的機器學習系統/項目，還是僅僅停留在事情的頂端，獲得更多的知識，成為一個深入學習的人。

以下是清單：

• 編寫一份論文列表：嘗試創建一份研究論文列表、包括你擁有的任何文本或學習資源。
• 過一遍列表：基本上，你應該以一種並行的方式閱讀研究論文，意思是一次處理多篇論文。具體地說，試著快速瀏覽並理解每一篇文章，而不是全部讀完，也許你讀了每一篇文章的10-20%，也許這足以讓你對手頭的文章有一個高水平的理解。在那之後，你可能會決定刪除其中的一些論文，或者只是瀏覽一兩篇論文，把它們通讀一遍。

他還提到，如果你讀到：

5-20篇論文(在選擇的領域，比如語音識別)=>這可能是足夠的知識，你可以實現一個語音識別系統，但可能不夠研究或讓你處於前沿。

50-100篇論文=>你可能會對這個領域的應用(語音識別)有很好的理解。

如何讀論文？

不要從頭讀到尾。相反，需要多次遍歷論文，下面是具體如何做的：

• 閱讀文章標題、摘要和圖：通過閱讀文章標題、摘要、關鍵網絡架構圖，或許還有實驗部分，你將能夠對論文的概念有一個大致的瞭解。在深度學習中，有很多研究論文都是將整篇論文總結成一兩個圖形，而不需要費力地通讀全文。
• 讀介紹+結論+圖+略過其他：介紹、結論和摘要是作者試圖仔細總結自己工作的地方，以便向審稿人闡明為什麼他們的論文應該被接受發表。
• 此外，略過相關的工作部分(如果可能的話)，這部分的目的是突出其他人所做的工作，這些工作在某種程度上與作者的工作有關。因此，閱讀它可能是有用的，但如果你不熟悉這個主題，有時很難理解。
• 通讀全文，但跳過數學部分。
• 通讀全文，但略過沒有意義的部分：出色的研究意味著我們發表的東西是在我們的知識和理解的邊界上。

他還解釋說，當你閱讀論文時(即使是最有影響力的論文)，你可能也會發現有些部分沒什麼用，或者沒什麼意義。因此，如果你讀了一篇論文，其中一些內容沒有意義(這並不罕見)，那麼你可以先略讀。除非你想要掌握它，那就花更多的時間。

當你閱讀一篇論文時，試著回答以下問題：

• 作者試圖完成什麼
• 這個方法的關鍵要素是什麼
• 你自己能做什麼
• 你還想要什麼其他的參考資料

如果你能回答這些問題，就很有希望的能反映出你對論文有很好的理解。

事實證明，當你讀更多的論文時，通過練習你會變得更快。因為，很多作者在寫論文時使用的是通用格式。

例如，這是作者用來描述網絡架構的一種常見格式，特別是在計算機視覺中：

理解一篇論文需要花多少時間？

對於剛接觸機器學習的人來說，理解一篇相對簡單的論文可能需要一個小時，這並不罕見。但是，有時你可能會偶然發現需要3個小時甚至更長時間才能真正理解的論文。

論文的來源

網上有很多很棒的資源。例如，如果你是新手，列出語音識別領域中最重要的論文的博客文章將非常有用。

隨著深度學習的快速發展，很多人都試圖跟上它的最新進展。所以，你應該這樣做：

• Twitter：令人驚訝的是，Twitter正成為研究人員發現新事物的重要場所。
• ML subreddit：https://www.reddit.com/r/MachineLearning/。
• 重要的機器學習會議：NIPS/ICML/ICLR。
• 朋友：找一個對該領域感興趣的社區或一群朋友，分享有趣的研究論文。

更加深入的理解文中的數學部分

試著從頭開始重新推導。雖然，這需要一些時間，但這是一個很好的練習。

代碼練習

• 下載開源代碼(如果你能找到的話)並運行它。
• 從頭開始重新實現：如果你能夠做到這一點，那麼這是一個強烈的信號，表明你已經真正理解了手頭的算法。

持續進步

最重要的是不斷學習，變得更好是指更加穩定的學習，而不是集中一段時間內讀大量的論文。與其在短時間內死記硬背，不如從明年開始每週讀兩篇論文。

對機器學習職業生涯的一些建議

無論你的目標是找一份工作(大公司、初創公司和教職員工的職位)，還是進行更高級的研究生學習(也許參加一個博士項目)。

只要專注於做重要的工作，把你的工作看作是一種策略，一個做有用工作的機會。

招聘人員要的是什麼？

• 機器學習能力。
• 有意義的工作：表明你能勝任這份工作的項目。

對於成功的機器學習工程師(優秀的求職者)來說，一個非常常見的模式是開發一個T型知識庫。意思是對人工智能中許多不同的主題有廣泛的理解，並在至少一個領域有非常深刻的理解。

構建橫向能力

在這些領域建立基本技能的一個非常有效的方法是通過課程和閱讀研究論文。

構建縱向能力

你可以通過做相關的項目、開源貢獻、研究和實習來構建它。

選擇一份工作

如果你想不斷學習新東西，下面是影響你成功的一些因素：

• 無論你是和偉大的人/項目一起工作：被勤奮的人包圍會影響你。
• 除了經理之外，還要關注你將與之共事的團隊(10-30人，你將與他們互動最多)，並對他們進行評估。
• 不要關注“品牌”：公司的品牌與你的個人經歷並沒有太大的關聯。

所以，如果你得到了一份工作，問問你將和哪個團隊一起工作，不要接受“加入我們，之後我們會組建一個團隊”的工作邀請，因為你可能會和一個團隊一起做你不感興趣的事情，這不利於自己有效地進化。

另一方面，如果你能找到一個好的團隊(即使是在一家不知名的公司)並加入他們，你實際上可以學到很多東西。

一些通用的建議

• 學得最多：傾向於選擇能讓你學到最多東西的工作。
• 做重要的工作：從事有價值的項目，推動世界向前發展。
• 嘗試將機器學習帶到傳統行業:我們在科技行業已經改變了很多，但我認為最令人興奮的工作之一可能是在傳統行業(科技行業之外)，因為你可以在那裡創造更多的價值。

要點

我試著將Andrew的建議總結如下：

1. 養成閱讀研究論文的習慣：每週閱讀兩篇論文作為開始。
2. 高效閱讀：編制一份論文清單，一次閱讀多篇論文，每篇論文都要經過多次閱讀。
3. 閱讀論文時：首先閱讀題目/摘要/圖表(尤其是)/引言/結論。
4. 嘗試理解算法時：嘗試重新推導數學並通過重新實現來練習編程。
5. 儘量掌握最新信息，通過查看ML會議和其他在線資源中的資料。
6. 在AI中構建一個t型知識庫。
7. 嘗試加入一個好的團隊(在大公司或初創公司)，這將幫助你高效成長。
8. 從事有用的項目可以幫助你學到更多，推動世界前進。
9. 嘗試將機器學習應用到其他行業：醫療、天文學、氣候變化等。

原文鏈接：

https://medium.com/@mohamedalihabib7/advice-on-building-a-machine-learning-career-and-reading-research-papers-by-prof-andrew-ng-f90ac99a0182

編輯：王菁

校對：林亦霖

— 完 —

關注清華-青島數據科學研究院官方微信公眾平臺“THU數據派”及姊妹號“數據派THU”獲取更多講座福利及優質內容。