HackMD
ML、DL讀書進度
tags: MLDL
考完下學習期末~2019.6.26
- 讀重構，相信潔淨程式碼的威力(受到SA的強烈啟發)
2019.8.11註解:
不過後來藍色的那本被別人搶先預約了QQ
2019.6.27~2019.7.19
- 由某勝弘的激勵之下，往ML、DL前進
- 先讀線性代數的幾個小章節(蘇柏青老師的線性代數!)
- 其中到處去網路上亂看ML、DL的資料，對於CNN能有效辨識影像，我覺得很神奇!
- 繼續讀重構(印象中)
- 老哥給raspberry pi，就開始玩了幾天，受限於沒有足夠的電學知識，我感覺很難!XD
2019.8.11註解:
- 其實只要矩陣、向量、張量的處理ok了，就可以往ml走囉!
- 建議有心學ML、DL的人，可以直接買書來看(少浪費一點時間)
2019.7.13
- 參加Laravelconf，遇見耀輝老師的學生，學長的專題也是在玩DL物件辨識！
2019.7.20
- 得知莊崴也要來搞深度學習(DL)，真是不務正業呀XD!
2019.7.21
- 取了「Python機器學習與深度學習特訓班：看得懂也會做的AI人工智慧實戰」、「練好機器學習的基本功：用Python進行基礎數學理論的實作」、「重構(第二版)：改善既有程式的設計」(沒時間看)
- 開始看「練好機器學習的基本功：用Python進行基礎數學理論的實作」，對於剛入ml這塊的我，我覺得頗有幫助的!!
2019.7.23
- ml那本讀了大半內容
- 向老哥借「Deep Learning：用Python進行深度學習的基礎理論實作」
- 開始看，從ml到dl
2019.8.11註解:
實際上是可以直接上dl，不必要完全知道ml的算法才能讀dl唷! 沒這回事!
2019.7.24 ~ 2019.8.5
- 持續閱讀「Deep Learning：用Python進行深度學習的基礎理論實作」的各個篇章，各章看完的實際日期以及進度我都記不太清楚了XD
2019.8.11註解:
這本書很有用，我甚至還為它在博客來上寫書評及給5顆星!!!
2019.8.6
- 看完「Deep Learning：用Python進行深度學習的基礎理論實作」這本書(15天)
- 專題組員原本說要討論的，結果…(有人消失不見)
- 練習keras的多層感知器模型
2019.8.7
- 練習keras的cnn
- 練習keras的rnn
2019.8.8
- 練習keras的cnn
- 練習keras的rnn
- 看了一篇rnn的概念教學，感覺還不錯!XD
2019.8.9
- 試著使用keras的cnn來訓練cifar10的模型，可惜一直發生「過適」(overfitting)的狀況，正為此苦惱不已!
2019.8.10
- 回過頭來開始從ml的基本─線性回歸開始學起
- 使用sklearn來練習資料預處理到一半(印度大佬)
- 買了「Deep learning 深度學習必讀：Keras 大神帶你用 Python 實作」
2019.8.11
- 複習線性回歸、多元線性回歸、感知器、羅吉斯回歸
- 使用sklearn練習資料預處理(pandas、matplotlib、numpy)、發現印度大佬的code有版本廢棄的問題
- 使用sklearn實際訓練線性回歸、多元線性回歸、羅吉斯回歸、k個近鄰法(knn)
- 複習感知器、神經網路學習、神經網路訓練(數值微分)、反向傳播法(解析微分、鏈鎖律)、學習的方法、cnn、深度學習等篇章
- 試著去了解svm
- 使用sklearn實際訓練svm
2019.8.12
- 開始coursera 機器學習的課程─完成「introduction」、「Model and Cost function」的章節
2019.8.13
- 開始學&學完「Parameter Learning」的章節!
- 學完「linear Algebra Review」
- 第一週done!
2019.8.14
- 完成"matlab onramp"入門教學並得到證書 (大推有用!)
發現matlab很像python的numpy和matplotlib 呵呵~~
- 取得coursera ml及輔大Matlab授權
- 開始week 2課程
- 完成「Multivariate Linear Regression」的部分小節
2019.8.15
- 完成「Multivariate Linear Regression」、「Computing Parameters Analytically」、「Submitting Programming Assignments」
根據課程說明，交作業改用Matlab線上版來交
- 開始「Octave/Matlab Tutorial」的教學 (大推有用!)
2019.8.16
- 完成「Octave/Matlab Tutorial」的教學 (大推有用!)
2019.8.17
- 討論何時討論
- 寫功課「exercise 1」
- 取得Deep learning 深度學習必讀：Keras 大神帶你用 Python 實作，以後不在蝦皮買書!
- 偷跑「week 3」的上課內容!
2019.8.18
- 吵架整天廢掉
2019.8.19
- 看了一點keras書的內容
2019.8.20
- 做了多變數線性回歸、octave/matlab的測驗
- 交了線性回歸的功課(得100分)
- 上完羅吉斯回歸
2019.8.21 f
- 試著繼續訓練cnn網路(使用Batch. Norm.和L2權重抵減看看)
因為過適的狀況很嚴重!!!
Todo list
- 1. 資料預處理: 特徵工程
- 2. 解決過適:
a. Batch Norm.層
b. 正規化: L2權重抵減、 Dropout層
- 3. 影像辨識: cnn衍生的model(優先)
e.g. alexnet、vgg、googLeNet等
- 4. 剩下的機器學習算法(線性回歸、支持向量機等)
- 5. 文字處理: rnn lstm
精通機器學習使用scikit-learn,kears,tensorflow
第一章 機器學習領域
2020.12.14~20
第二章 端對端機器學習專案
2020.12.21~27
第三章 分類
2020.12.28~2021.1.3
第四章 訓練模型
2021.1.4~10
