# POLAB: Summer Rookie Camp Collaborative Writing
[Toc]

> 首勝拉!
> [name=鈺學]

> XX,來一場了拉!
> [name=Jason]

> 復仇了拉!
> [name=Jacky]

> 該吃飯了吧。
> [name=Tina]

## Elements of Statical Learning Chap 3~6
* Date:2020/07/06
* Presenter: 陳柏勳

## Elements of Statical Learning Chap 7~10
* Date:2020/07/07
* Presenter: Tuna Hong

## Elements of Statical Learning Chap 11~14
* Date:2020/07/07
* Presenter: 帥氣的黎耀文學長

### SVM
- 把數據拉高維度看，一定可以找到方式切割，可是這樣會造成 g(x) 過於複雜，造成 overfitting
- 造成 overfitting 的一項原因是 SVM 目標一刀切分，對於雜訊容忍低。

### Association rule (關聯式規則)
- why Lift > 1 才表關聯有效？
- 代表此關聯規則的信賴度大於原本結果項目的發生機率
- 當Lift=1：$P(A \cap B) = P(A)P(B)$ 表A、B獨立

### K-means
- reference:[Lloyd Alogrithm](https://en.wikipedia.org/wiki/Lloyd%27s_algorithm)

## Computer Age Statistical inference
### Jackknife & Bootstrap
- 中央極限定理
- 各個B子集的平均數會形成常態分佈

##### Jackknife（折刀法）
- 重抽樣（resampling） <= 取後放回
- 作者認為是一個很小很容易上手的工具
- 也稱作 leave one out
- 標準差的算法和一般相同
- 優點
- 無母數的方法
- 計算統計量
- 比較好計算
- 缺點
- 隱藏的假設，實際值跟計算的不相近
- 會比實際標準差來的高估

##### Bootstrap（拔靴法、自助法）
- 重抽樣（resampling） <= 取後放回
- B很多次，會發現其分佈接近常態（中央極限定理）
- 樣本數太少的時候使用

- 優點
- 無母數的方法
- 比較好計算
- 計算se時，B至少抽200以上

##### resampling plan
- J => P(i) = (1,....,1,1,0,1,...1,)/(n-1)
- B => P* = ($N_1,N_2,...,N_n$)／ｎ
- N~Multi (n,P)
.......

### several bootstrap
- Multisample Bootstrap
- Moving Block Bootstrap
- The Bayesian Bootstrap
- Parametric Bootstrap

-有母數比無母數的效果好一點

### bootstrap confidence intervals
- Neyman's construction
- 後面分佈見仁見智
- Transformation Invariance
- bca
- 很快左右撐開，同時往左邊移動

## Deep Learning and CNN
* Date:2020/07/13
* Presenter: 沈柏丞
### NN Dropout
- reference: [Bias-Varaince trade-off](https://medium.com/swlh/the-what-why-and-how-of-bias-variance-trade-off-55c0b6cf3d00)

## Time series &
* Date:2020/07/14
* Presenter: 吳宗諭

### Introduction
- 加法模型：各因素之間彼此獨立
- $Y = S+T+C$
- 乘法模型：各因素之間彼此有相關，較符合真實情形
- $Y = S∙T∙C$

- 穩態 ＆ 非穩態
- 穩態：時間序列特徵不隨時間變化
- 非穩態：時間預列特徵不斷改變，波動幅度和趨勢都不會收斂
- 差分...

### RNN
- 以隱藏層的輸出當作下一次的輸入
- slot filling
- 聊天機器人
- 訂票系統機器人
- feedforward network
- 1 of N encoding
- word hashing
- Bidirectional RNN (雙向)
-
### LSTM （long short-term memory) 長短期記憶
- reference:
- [動畫示意圖](https://towardsdatascience.com/illustrated-guide-to-lstms-and-gru-s-a-step-by-step-explanation-44e9eb85bf21)
- https://medium.com/data-scientists-playground/lstm-%E6%B7%B1%E5%BA%A6%E5%AD%B8%E7%BF%92-%E8%82%A1%E5%83%B9%E9%A0%90%E6%B8%AC-cd72af64413a
- forget gate是打開才會存起來
- gate是否會打開，是利用NN去學習的
- 每個neural裡的gate權重都不一樣
- [LSTM 解決梯度消失問題 數學證明](https://medium.com/datadriveninvestor/how-do-lstm-networks-solve-the-problem-of-vanishing-gradients-a6784971a577)

## GAN 生成對抗網路
- 由生成器（generator）及判別器（discriminator）組成
- 如: 做假門票的人（or 偽鈔）與門票檢查員（or警察）的對抗
- 互鬥求進步
- $Y$ 可能不再是簡單的單字或數值，而是圖片、句子、語音...
- $bottem-up$（generator） & $top-down$（discriminator）
- input怎麼來？
- auto-encoder

### conditional GAN
- 給（條件標籤,圖片）

### 利用GAN去填遺漏值
...

## 影像處理與模式辨識
- RGB => WHITE
- YMCK => BLACK

## Deep Reinforcement Learning
* Date:2020/07/20
* Presenter: 方鈺學

## Deep Reinforcement Learning
* Date:2020/07/21
* Presenter: 陳彥彣
### exploration exploitation
https://blog.csdn.net/xbinworld/article/details/79372777
### Dynamic Programming
https://www.cnblogs.com/pinard/p/9463815.html