---
tags: Neural network
---
# variational bound影片講解
[variational bound 講解](https://www.youtube.com/watch?v=pStDscJh2Wo)

![Uploading file..._gzfib1o8e]()
後面會用到的性質

![Uploading file..._o80y1pma3]()
因為p(x)不好算(因為是會用到一系列的latent variable)
使用一近似函數q(x)來逼近真實的值

第一行 單純乘上分母(完全沒變)
第二行 使用前面的log凹函數性質 可以改寫為大於等於將wi提出來的版本
第三行 將後面的log拆成兩項

就是最後呈現的variational bound
![Uploading file..._b1tipr6b6]()
有三項性質
1.假如q=p 就會得到左右相等的等式
2.猜測的q函數越接近p函數 這個上界就越緊密
3.其實這個bound與q(x),p(x)的KL divergence相關 所以也能明顯得出上面兩項性質 此不等式的優化問題可轉變為最小化KL divergence