# 0104 深度學習

上午：

## 1.CNN 程式碼回顧講解
* [上課程式碼：ml1216/cnn.ipynb at main · Elwing-Chou/ml1216](https://github.com/Elwing-Chou/ml1216/blob/main/cnn.ipynb)
* [上課程式碼：ml1216/cnn_gap.ipynb at main · Elwing-Chou/ml1216](https://github.com/Elwing-Chou/ml1216/blob/main/cnn_gap.ipynb)

## 2.新教的：Inception:（空間，視野的概念）
p.s上週五的進階深度學習有教過：就是GoogLeNet(又稱inception module,用不同大小的filters來訓練)
* [可參考上週五的簡報p.42-p.49](https://docs.google.com/presentation/d/1iS6UjN1iQsBzNA2ueGFxvcQjjerkA1EIWD4e-M4cVeY/edit#slide=id.g64bb8ff392_0_430)


* [上課程式碼：ml1216/inception.ipynb at main · Elwing-Chou/ml1216](https://github.com/Elwing-Chou/ml1216/blob/main/inception.ipynb)

-----

下午：

## 3. 新教的：ResNet: residual（res) (深度，差值的概念）
p.s上週五的進階深度學習有教過ResNet，機器學習退化，可以疊很深res就算調不動 還有基底 就算梯度消失 還不至於差太多 可以層數加高)

* [可參考上週五的簡報p.50-p.55](https://docs.google.com/presentation/d/1iS6UjN1iQsBzNA2ueGFxvcQjjerkA1EIWD4e-M4cVeY/edit#slide=id.g64bb8ff392_0_430)

上課黑版圖：

## 4. 新教的：transfer learning:
### transfer learning概念：
transfer learning 遷移學習：前面用別人的模型 後面的分類器才用自己訓練的(後面自己訓練的盡可能簡單，因為沒有足夠的照片訓練支援參數量)

1.前後模型要取類似的概念 命題 如：不能一個是偵測人 一個偵測動物
2.簡單（自己訓練的模型盡量簡單）
3.大小要跟它當初訓練（偷來的模型）ㄧ樣
4.訓練先freeze住偷來的模型， 當成固定方程式 不動，只訓練後面的模型
5預處理也要偷(也要按照偷來模型的預處理方式)


可以找模型的網站：老師大推
* [Model Zoo - Deep learning code and pretrained models for transfer learning, educational purposes, and more](https://modelzoo.co/)

### transfer learning實作

:::success
先把train.zip檔從下方雲端連結下載至自己的雲端硬碟後，等等下方transfer.ipynb的第一行會用到
* [additional - Google 雲端硬碟](https://drive.google.com/drive/folders/1KsT58htBrvhdBKVaKSmHyTGsk3GVEJBw)
:::
* [上課程式碼：ml1216/transfer.ipynb at main · Elwing-Chou/ml1216](https://github.com/Elwing-Chou/ml1216/blob/main/transfer.ipynb)

p.s colab中左邊連結到自己雲端硬碟 ，找到train.zip檔案，將路徑複製（每個人的路徑會不一樣）


:::info
CNN->Norm->MLP
:::

## 5. ImageNet: 有label過的資料集

* [ImageNet](http://www.image-net.org/)

* [可參考上週五的簡報p.31-p.32](https://docs.google.com/presentation/d/1iS6UjN1iQsBzNA2ueGFxvcQjjerkA1EIWD4e-M4cVeY/edit#slide=id.g64bb8ff392_0_430)

## 6. google爬蟲
（下次上課會用到浣熊的圖片 所以講了一下爬蟲 老師說這段線上課程沒有 是額外送的XD）

* [ml1216/googlecrawler.ipynb at main · Elwing-Chou/ml1216](https://github.com/Elwing-Chou/ml1216/blob/main/googlecrawler.ipynb)

老師說下方的程式碼很精華，是他之前有存到google改版前的爬蟲網址，只要改框框內的字，就可以爬到google圖片搜尋內的東西～之後新版的比較難爬，而google改版後，舊版的東西可並行用，所以這個網址還可以運作，很好用！


----
## 7.圖像深度學習：（閒聊）
若對圖片深度學習有興趣 下方四種可以摸熟
* classfication分類
* object detection(圖片分割 框＋分類)
* semantic segmentation (pixel等級classfication分類：自駕車中分類是車還是電線桿:只指明物體)
* instance segmentation（pixel等級detection：偵測物體的位置 畫面有幾個人 哪個在前在後）

# END