# ML、DL讀書進度 ###### tags: `ML` `DL` `AI` `機器學習` `深度學習` ## 考完下學習期末~2019.6.26 1. 讀重構,相信潔淨程式碼的威力(受到SA的強烈啟發) > 2019.8.11註解: > 不過後來藍色的那本被別人搶先預約了QQ ## 2019.6.27~2019.7.19 1. 由某勝弘的激勵之下,往ML、DL前進 2. 先讀線性代數的幾個小章節(蘇柏青老師的線性代數!) 3. 其中到處去網路上亂看ML、DL的資料,對於CNN能有效辨識影像,我覺得很神奇! 4. 繼續讀重構(印象中) 5. 老哥給raspberry pi,就開始玩了幾天,受限於沒有足夠的電學知識,我感覺很難!XD > 2019.8.11註解: > 1. 其實只要矩陣、向量、張量的處理ok了,就可以往ml走囉! > 2. 建議有心學ML、DL的人,可以直接買書來看(**少浪費一點時間**) ## 2019.7.13 1. 參加Laravelconf,遇見耀輝老師的學生,學長的專題也是在玩DL物件辨識! ## 2019.7.20 1. 得知莊崴也要來搞深度學習(DL),真是不務正業呀XD! ## 2019.7.21 1. 取了「Python機器學習與深度學習特訓班:看得懂也會做的AI人工智慧實戰」、「練好機器學習的基本功:用Python進行基礎數學理論的實作」、**「重構(第二版):改善既有程式的設計」(沒時間看)** 2. 開始看「練好機器學習的基本功:用Python進行基礎數學理論的實作」,對於剛入ml這塊的我,我覺得頗有幫助的!! ## 2019.7.23 0. ml那本讀了大半內容 1. 向老哥借「Deep Learning:用Python進行深度學習的基礎理論實作」 2. 開始看,從ml到dl > 2019.8.11註解: > 實際上是可以直接上dl,不必要完全知道ml的算法才能讀dl唷! 沒這回事! ## 2019.7.24 ~ 2019.8.5 1. 持續閱讀「Deep Learning:用Python進行深度學習的基礎理論實作」的各個篇章,各章看完的實際日期以及進度我都記不太清楚了XD > 2019.8.11註解: > 這本書很有用,我甚至還為它在博客來上寫書評及給5顆星!!! ## 2019.8.6 1. 看完「Deep Learning:用Python進行深度學習的基礎理論實作」這本書(15天) 2. 專題組員原本說要討論的,結果....(**有人消失不見**) 3. 練習keras的多層感知器模型 ## 2019.8.7 1. 練習keras的cnn 2. 練習keras的rnn ## 2019.8.8 1. 練習keras的cnn 2. 練習keras的rnn 3. 看了一篇rnn的概念教學,感覺還不錯!XD ## 2019.8.9 1. 試著使用keras的cnn來訓練cifar10的模型,可惜一直發生「過適」(overfitting)的狀況,正為此苦惱不已! ## 2019.8.10 1. 回過頭來開始從ml的基本─線性回歸開始學起 2. 使用sklearn來練習資料預處理到一半(印度大佬) 4. 買了「Deep learning 深度學習必讀:Keras 大神帶你用 Python 實作」 ## 2019.8.11 1. 複習線性回歸、多元線性回歸、感知器、羅吉斯回歸 2. 使用sklearn練習資料預處理(pandas、matplotlib、numpy)、發現印度大佬的code有版本廢棄的問題 4. 使用sklearn實際訓練線性回歸、多元線性回歸、羅吉斯回歸、k個近鄰法(knn) 5. 複習感知器、神經網路學習、神經網路訓練(數值微分)、反向傳播法(解析微分、鏈鎖律)、學習的方法、cnn、深度學習等篇章 6. 試著去了解svm 7. 使用sklearn實際訓練svm ## 2019.8.12 1. 開始coursera 機器學習的課程─完成「introduction」、「Model and Cost function」的章節 ## 2019.8.13 1. 開始學&學完「Parameter Learning」的章節! 2. 學完「linear Algebra Review」 3. 第一週done! ## 2019.8.14 1. 完成"matlab onramp"入門教學並得到證書 **(大推有用!)** > 發現matlab很像python的numpy和matplotlib 呵呵~~ 2. 取得coursera ml及輔大Matlab授權 3. 開始week 2課程 4. 完成「Multivariate Linear Regression」的部分小節 ## 2019.8.15 1. 完成「Multivariate Linear Regression」、「Computing Parameters Analytically」、「Submitting Programming Assignments」 > 根據課程說明,交作業改用Matlab線上版來交 2. 開始「Octave/Matlab Tutorial」的教學 **(大推有用!)** ## 2019.8.16 1. 完成「Octave/Matlab Tutorial」的教學 **(大推有用!)** ## 2019.8.17 1. 討論何時討論 2. 寫功課「exercise 1」 3. 取得Deep learning 深度學習必讀:Keras 大神帶你用 Python 實作,以後不在蝦皮買書! 4. 偷跑「week 3」的上課內容! ## 2019.8.18 1. 吵架整天廢掉 ## 2019.8.19 1. 看了一點keras書的內容 ## 2019.8.20 1. 做了多變數線性回歸、octave/matlab的測驗 2. 交了線性回歸的功課(得100分) 3. 上完羅吉斯回歸 ## 2019.8.21 f 1. 試著繼續訓練cnn網路(使用Batch. Norm.和L2權重抵減看看) > 因為過適的狀況很嚴重!!! # Todo list - [ ] 1. 資料預處理: 特徵工程 - [ ] 2. 解決過適: > a. Batch Norm.層 > b. 正規化: L2權重抵減、 Dropout層 - [ ] 3. 影像辨識: cnn衍生的model(優先) > e.g. alexnet、vgg、googLeNet等 - [ ] 4. 剩下的機器學習算法(線性回歸、支持向量機等) - [ ] 5. 文字處理: rnn lstm