---
# System prepended metadata

title: 李宏毅_ATDL_Lecture_17
tags: [NTU, Hung-yi Lee, Advance Topics in Deep Learning]

---

# 李宏毅_ATDL_Lecture_17
###### tags: `Hung-yi Lee` `NTU` `Advance Topics in Deep Learning`
[課程撥放清單](https://www.youtube.com/channel/UC2ggjtuuWvxrHHHiaDH1dlQ/playlists)
## 機械学習で美少女化 ~ あるいはNEW GAME! の世界
[課程連結](https://www.youtube.com/watch?v=A5p1_ehUSVI&list=PLJV_el3uVTsPMxPbjeX7PicgWbY7F8wW9&index=17)
[Source](http://qiita.com/Hi-king/items/8d36d9029ad1203aac55)
### Introduction
![](https://i.imgur.com/DwtLpVY.png)

靈感來自動漫『NEW GAME』，目的是將真實照片轉為二次元動漫照，它並沒有使用成對資料訓練。

這個專案需要三個步驟
### Step 1
![](https://i.imgur.com/S6O8V9d.png)

[Training Data](https://nico-opendata.jp/en/index.html)
利用DCGAN訓練一個Generator
### Step 2
![](https://i.imgur.com/b86KR9R.png)

訓練一個code的auto-encoder，做的事情是將Image轉為code，特別的是它在bottleneck的地方是特別寬的layer。

訓練過程中要凍結Generator的參數，單純訓練Vectorizer的參數。

訓練好auto-encoder之後，將Vectorizer與Generator反過來接<sub>(如簡報右上狀態)</sub>，理論上現在輸入一張動漫照片就可以輸出一張幾乎一模一樣的動漫照片，但是模型並沒有看過真實的人類照片，這利用第三步驟處理。
### Step 3
![](https://i.imgur.com/fn82dTR.png)

[CelebA](http://mmlab.ie.cuhk.edu.hk/projects/CelebA.html)
這個步驟需要用到CelebA資料集，這裡面有許多名人的照片，接著訓練一個如上架構。

真實的人臉照片通過Vectorizer變成code之後再經過Generator生成動漫照片，再把照片丟到Classifier判斷臉部表情。

依作者說明，這三個架構是共同訓練，但李弘毅老師提出幾點：
1. 雖然Vectorizer與Generator有Pretrain，但無法保證在這邊共同訓練之後，Generator的輸出依然為動漫人物，但這可能也在反應在生成照片中的奇怪班點。
2. Generator參數應該要凍結
3. Vectorizer與Classifer不應該共同訓練，如果輸入的是笑臉，但Generator輸出卻是哭臉，這時候Classifier或許會誤以為哭臉即為笑臉
4. Classifier應該先另外訓練好並且凍結
5. 在這個架構中，應該只有Vectorizer需要訓練

