# 深度學習專題 & 類神經與深度學習進階 Week 9-10

## Part 1 : 自動編碼器簡介(AutoEncoder)

自動編碼器是一種無監督學習的神經網絡模型，它通常由兩部分組成：編碼器（Encoder）和解碼器（Decoder）。編碼器將輸入數據壓縮成稠密的潛在表示，而解碼器則將這個潛在表示解碼為原始輸入數據。它的目標是學習一個能夠有效地重建輸入數據的編碼，同時保持潛在表示的訊息內容。

## Part 2 : 變分自動編碼器原理簡介(Variational AutoEncoder, VAE)

變分自動編碼器是自動編碼器的一種擴展，它不僅可以生成新的數據樣本，還可以學習潛在表示的連續和平滑分佈。VAE的訓練過程包括最大化數據的邊緣可能性，同時最小化潛在表示與先驗分佈之間的差異。它通過引入一個隱變量的概率模型，使得模型生成具有更多樣性的數據。

**訓練過程**：
1.將資料編碼成分佈
2.再從隱層分佈取樣資料
3.解碼還原資料並計算重構損失
4.將重構損失反向傳播。

## Part 3 : 變分自動編碼器應用(Variational AutoEncoder)

變分自動編碼器已經在許多領域得到了廣泛應用，包括圖像生成、特徵學習、數據壓縮、生成對抗網絡（GAN）的改進等。它可以用於生成圖像、影片、聲音等多種類型的數據，並且在生成具有高品質和多樣性的樣本方面表現出色。