---
# System prepended metadata

title: 5/12(四) 社群讀書會

---

# 5/12(四) 社群讀書會
影片連結：https://youtu.be/7XZR0-4uS5sh

## 什麼是機器學習？

機器學習 → 叫機器找函數

範例：
- 語音辨識
- 影像辨識
- 圍棋 Alpha Go

深度學習 -> 函數是類神經網路

輸入：
vector 向量
matrix 矩陣（e.g., 圖片）
sequence （e.g., 語音、文字等)

輸出類型:
scalar -> regression
分類 -> classification


## Supervised Learning 監督式學習
1. 收集 training data
2. label[標註]

## Self-supervised Learning 自監督學習
* 人工標記資料 -> 耗時耗力 -> 效率低下 => 解法α
* (α)Pre-train (預訓練)
    unlabeled data
    A.K.A. foundation model(基礎模型)
    e.g., BERT
* Downstream Tasks (下游任務)

## Generative Adversarial Network, GAN 生成對抗網路
[小學生談『生成對抗網路』(Generative Adversarial Network，GAN）](https://ithelp.ithome.com.tw/articles/10196257)

## Reinforcement Learning (增強學習)
* 不知道如何標記訓練資料，但可以定義成功

## Anomaly Detection (異常檢測)
* 可以回答"我不知道"的能力

## Explainable AI 可解釋
* 可以解釋為什麼知道答案

## Model Attack 模型攻擊
* 加雜訊會讓資料被辨識錯誤
* 有哪些攻擊技術

## Domain Adaptation 概述領域自適應
* 解決資料差異導致辨識率暴跌的問題

## Network compression 模型壓縮
- 把大模型變小，讓他可以跑在小 devices 上

## Life-long Learning
* 可以持續學習不同的問題

## Meta learning
* 學習如何學習
* 機器發明學習的演算法
* few-shot learning 用少量資料進行學習

## pytorch
pros:
GPU 加速
計算梯度方便

### tensor
- 查看維度
shape

- 建立
zeros
ones

- 常見操作
轉置: transpose
去除維度: squeeze
增加維度: unsqueeze
合併多個 tensor: cat

- 更換運算 device
CPU: to('cpu')
GPU: to('cuda')

- 確認有沒有GPU
torch.cude.is_available()


---
問題區 : 


---
討論區:
numpy / tensors


---
相關資料 :
http://arxiv.org/abs/1804.00316 -> 對抗式網路(音頻) 
http://arxiv.org/abs/1812.09323 -> 語音辨識
http://arxiv.org/abs/1904.04100 -> 對抗網路
http://arxiv.org/abs/2105.11084 -> 無監督式語音識別
