# Machine Learning / Deep Learning 開放式課程推薦 ## 寫在前面 - 這些課程我並沒有每一門都全部上完，評論僅供參考。 - 各課程可以都試試看，找到最適合自己的幾門課 - 課程影片不同時期看會有不同收穫 --- ## 課程推薦 ### [台大 李宏毅 Machine Learning](https://www.youtube.com/watch?v=CXgbekl66jc&list=PLJV_el3uVTsPy9oCRY30oBPNLCo89yu49) - 涵蓋 machine learning 以及 deep learning，適合入門，很容易有直觀理解 - 老師有點幽默 ### [Stanford 吳恩達 Machine Learning](https://www.coursera.org/learn/machine-learning/home/welcome) - 適合入門，講解的很清楚 - 英文授課，有中文字幕 - 側重 machine learning --- ### [Stanford 吳恩達 Deep Learning Specialization](https://zh-tw.coursera.org/specializations/deep-learning) - 講解得很清楚 - 英文授課，有中文字幕 - 主要講 deep learning，共五個子課程 - [Neural Networks and Deep Learning](https://www.coursera.org/learn/neural-networks-deep-learning/) - [Improving Deep Neural Networks: Hyperparameter tuning, Regularization and Optimization](https://www.coursera.org/learn/deep-neural-network) - [Structuring Machine Learning Projects](https://www.coursera.org/learn/machine-learning-projects) - [Convolutional Neural Networks](https://www.coursera.org/learn/convolutional-neural-networks) - [Sequence Models](https://www.coursera.org/learn/nlp-sequence-models) - 雖然看起來像是要收費的課程，不過可以透過 Coursera 的旁聽機制瀏覽所有課程影片 - 點進上方的子課程，找一下會有旁聽選項 ### [莫煩 Python](https://morvanzhou.github.io/tutorials/) - 偏向程式實作的教學，適合入門 - 理論的部分帶出較直觀的理解 --- ### [台大 李宏毅 Advanced Topics in Deep Learning](https://www.youtube.com/watch?v=IzHoNwlCGnE&list=PLJV_el3uVTsPMxPbjeX7PicgWbY7F8wW9) - 有一些 deep learning 基礎，或者學完李宏毅的 Machine Learning 較適合這門課 - 課程內容針對 deep learning 的一些進階技術做說明 ### [清大 吳尚鴻 Deep Learning](https://www.youtube.com/channel/UCBtDVX6tpl1SCPsT5SQEnYQ/playlists?shelf_id=2&view=50&sort=dd) - 課程內容很紮實，從基礎的線代、機率、最佳化理論 教到 deep learning 等 - 數學較多，教得很詳細且嚴謹 - ~~可能會覺得他講話很慢然後就調2倍播放速度 發現調快之後都聽不懂結果又調回原本速度~~ ### 台大 林軒田 [機器學習基石](https://www.youtube.com/playlist?list=PLXVfgk9fNX2I7tB6oIINGBmW50rrmFTqf)、[機器學習技法](https://www.youtube.com/playlist?list=PLXVfgk9fNX2IQOYPmqjqWsNUFl2kpk1U2) - 喜歡數學的同學適合服用 - 主要利用數學推導來講解演算法「為何」可以運作，可以更深入的了解各演算法的原理 --- ### [Stanford CS231n](http://cs231n.stanford.edu/) - Convolutional Neural Networks for Visual Recognition - 側重電腦視覺方面的 deep learning - 先有一些 machine learning 知識較容易懂 - 英文授課，英文字幕 - 補充 [中文字幕影片](https://space.bilibili.com/216720985/channel/detail?cid=32406) ### [Stanford CS224n](https://www.youtube.com/playlist?list=PL3FW7Lu3i5Jsnh1rnUwq_TcylNr7EkRe6) - Natural Language Processing with Deep Learning - 側重自然語言處理方面的 deep learning - 我沒上過，不過這門風評不錯 ### UC Berkeley [CS 294-112](http://rail.eecs.berkeley.edu/deeprlcourse/) - 主要講 Deep Reinforcement Learning - 英文授課，英文字幕是 Youtube 自動產生~~所以字幕都亂打~~ ###### tags: `learning materials` `machine learning` `deep learning` `open courses` `開放式課程`
Last changed by  
 
Johnny Tu
11274

Read more

Ch12 Nonlinear Transformation

Content Slides & Videos Quadratic Hypothesis 在先前的章節中，學習的機器學習模型都為線性模型，即假設空間都為線性的（2D平面中為一條直線，3D空間為一個平面），使用的得分為線性得分（linear scores）$s=w^Tx$。其中 $x$ 為特徵值向量，$w$ 為權重。 Linear Hypothesis 線性模型的優點是理論上可以使用 VC 限制來約束約束（假設是非線性的各種曲線或超平面，則每種假設都可以完全二分，即有 $2^N$ 種二分類。），這保證了 $E_{in} \approx E_{out}$（VC-Dimension比較小）。但對於線性不可分（non-linear separable）的問題（如下圖），$E_{in}$ 很大，從而導致 $E_{out}$ 也很大，導致分類結果不理想。 linear 好處：VC dimension 是有限的，所以 $E_{in}$ 和 $E_{out}$ 通常很接近

10/17/2023
Ch5 Training vs Testing

Content Slides & Videos 參考筆記: 林軒田教授機器學習基石 第五講學習筆記 Recap and Preview learning的兩個核心問題 能不能讓 $E_{out}(g)$ 和 $E_{in}(g)$ 非常接近? 能不能讓 $E_{in}(g)$ 非常小?

9/16/2023
Ch1 Linear SVM

Content Slides & Videos Large-Margin Separating Hyperplane Which Line Is Best? 就我們之前推導的 VC bound 來看，這三條線好像沒什麼差？ Why Rightmost Hyperplane

6/26/2023
Ch13 Deep Learning

Content [TOC] Slides & Videos Deep Neural Network Physical Interpretation of NNet Revisited 每個 layer 就是在從 data 當中 extract pattern Shallow versus Deep Neural Networks

9/26/2022
Read more from Johnny Tu
Published on HackMD