開源深度學習課表

現在 AI 這麼夯,打開新聞不是 ChatGPT 就是各種生成式 AI,你是不是也想「入坑」深度學習(Deep Learning),卻發現網路上的資源多到像海嘯一樣,讓人還沒開始就想放棄?

別慌!學習是有分階級的(打怪也要先從史萊姆打起對吧?)。與其在茫茫網海中迷路,不如直接跟著頂尖大學的「開源課表」走。這些來自學界和業界「大神」們佛心分享的教材,含金量絕對比外面許多付費課程還高!這份清單是為了想要認真(沒錯,不是只有沾醬油)研究這個領域的人準備的。我們從最基礎的數學蹲馬步開始,一路練到最新的論文閱讀。準備好了嗎?讓我們開始這趟「練功」之旅吧!

第一階段:數學與機器學習基礎(先別急著關視窗,這是基本功!)

很多人看到數學就想逃,但相信我,地基打不穩,蓋出來的 AI 模型只會是危樓。

  1. 線性代數 (Linear Algebra)MIT Linear Algebra (Gilbert Strang): ocw.mit.edu推薦理由: 這絕對是經典中的經典!Strang 爺爺講課非常風趣,這門課不僅會給你扎實的數學底子,還會教你 FFT(快速傅立葉變換)和 SVD(奇異值分解)這些跟機器學習息息相關的工程應用。
  2. Coding The Matrix: codingthematrix.com推薦理由: 如果你是「工程師思維」,覺得看公式想睡覺,這門課超適合你!它教你用 Python 來學線性代數,邊寫 code 邊學矩陣,實用度滿點。
  3. 統計學 (Statistics)Probability Theory and Mathematical Statistics (PennState): Onlinecourses.science.psu.edu推薦理由: 這裡的講義非常詳盡,從入門到研究所等級都有。沒有落落長的影片,適合喜歡閱讀文字、想要 2-3 小時快速複習基礎的人。
  4. Computational Probability and Inference (MIT/edX): www.edx.org推薦理由: 這是硬派一點的選擇。你要寫程式來處理「不確定性」並進行預測。這是搞懂貝氏定理(Bayesian thought)和機率模型的好機會。
  5. 最佳化理論 (Optimization)Optimization Algorithms in Machine Learning: Videolectures.net推薦理由: 搞懂「梯度下降」(Gradient Descent)是做 AI 的基本常識。這門課會幫你把這些地基打好。
  6. Stanford EE364A - Convex Optimization I: see.stanford.edu推薦理由: 雖然神經網絡(Neural Networks)通常是「非凸」(Non-convex)的,導致找不到全域最小值(Global Minimum),但學好凸優化能讓你對這些問題更敏感,是進階必修!

第二階段:機器學習核心概念 (Machine Learning Fundamentals)

地基打好了,可以開始學蓋房子了。

  1. Learning From Data (CalTech): www.edx.org小編點評: 這門課雖然理論較多,但這對理解「偏差-變異權衡」(Bias-Variance Tradeoff)和「過擬合」(Overfitting)超級重要!雖然大家都推吳恩達(Andrew Ng)大神的課,但這門課能讓你少走很多觀念上的彎路。
  2. Mathematics of Machine Learning (MIT): ocw.mit.edu推薦給: 數學控,或者是需要快速複習數學原理的老手。
  3. Information Theory, Inference, and Learning Algorithms (David MacKay): www.inference.phy.cam.ac.uk必讀聖經: 想知道為什麼 Loss Function 要用 Cross Entropy?這本書會告訴你答案。它從資訊理論的角度切入,而且網路上有免費 PDF 可以下載(真的是佛心來著)。

第三階段:深度學習 (Deep Learning) - 重頭戲來了!

這裡的技術更新速度快到像坐雲霄飛車,但以下這些課程都是經過時間考驗的「神級」資源。

  1. 入門必看Neural Networks for Machine Learning (Geoffrey Hinton): www.coursera.org大神駕到: 這是深度學習教父 Geoffrey Hinton 在 Coursera 上的經典課程。雖然內容有點年份,但能聽到大師親自講解觀念,那個啟發性是無可取代的。
  2. The Deep Learning Book: www.deeplearningbook.org簡稱「花書」: 這本教科書被譽為深度學習界的聖經,全面且深入,案頭必備。
  3. 視覺與應用 (Computer Vision)Stanford CS231n: Cs231n.stanford.edu超級推薦: 這絕對是目前網路上最棒的深度學習課程之一!由李飛飛(Fei-Fei Li)和 Andrej Karpathy 等大神授課。想搞懂卷積神經網路(CNN)和圖像識別?看這門就對了!上完你會感覺功力大增。
  4. 自然語言處理 (NLP)Stanford CS224d: Cs224d.stanford.edu文字控必修: 這是 Richard Socher 的名課,專注於讓 AI 看懂人類語言。課程中的 Word Embedding(詞嵌入)章節非常精彩。
  5. 進階與生成式模型Differentiable Inference and Generative Models (University of Toronto): www.cs.toronto.edu想玩 GAN 看這裡: 如果你對生成對抗網絡(GANs)和變分推斷感興趣,多倫多大學的這門課涵蓋了許多酷炫的新技術。

第四階段:讀論文 (Papers) - 成為大師的最後一哩路

最後,想要跟上時代,光看書是不夠的,你得學會讀 Paper。 GitHub 用戶 songrotek 整理了一份超強的「深度學習論文閱讀路線圖」,幫你把歷史上重要的論文都整理好了。

Roadmap 傳送門: github.com/songrotek/Deep-Learning-Papers-Reading-Roadmap總結學習深度學習是一場馬拉松,不是百米衝刺。這份課表雖然看起來很硬,但只要按部就班,絕對能讓你從「小白」進化成能獨當一面的工程師。大家加油!願 GPU 運算力與你同在!