機器學習入門
===
###### tags: `GDG on Campus FCU`
講師：Charlie Chang
日期：2024/12/10
課程影片：
{%youtube k8WLiSfDoZY %}
機器學習的基本概念及應用的全面介紹
## 人工智慧概念
#### 人工智慧 (AI)
##### 定義
一種使計算機能夠執行通常需要人類智能的任務的技術和方法。
##### 應用領域
自動駕駛、語音識別、醫療診斷等
##### 圖靈測試
一種評估機器是否具備智能的測試，通過人類和機器的對話來檢驗。
#### 機器學習 (ML)
##### 定義
機器學習是人工智慧的一個子集，旨在通過數據學習和自我改進。
##### 算法分類
監督式學習、非監督式學習和強化學習。
## 機器學習基本原理
#### 學習過程
機器學習系統如何從數據中提取模式，並根據這些模式進行預測或決策。
#### 資料類型
有標籤學習：學習過程中使用帶有標籤的數據（例如分類問題）。
無標籤學習：學習過程中使用未標記的數據（例如聚類問題）。
#### 學習方法
##### 強化學習
透過獎勵和懲罰來指導學習過程，學習如何在環境中進行決策。
常見應用：自動駕駛、機器人控制、遊戲策略。
##### 半監督學習
結合有標籤和無標籤的數據來訓練模型，特別適用於標記數據稀缺的情況。
## 機器學習實作與模型選擇
#### 整體流程
##### 資料收集
使用各種來源（如 APIs、數據庫、網絡爬蟲）來獲取數據。
##### 資料預處理
數據清理：去除缺失值、異常值和重複數據。
特徵工程：創建、選擇和轉換特徵以提高模型性能。
標準化與正規化：將數據範圍調整到相同的尺度，提升模型訓練的穩定性。
#### 模型選擇
根據問題的特性（例如輸入特徵的數量、數據的分佈）選擇合適的機器學習模型。
##### 訓練過程
將數據劃分為訓練集和測試集，訓練集用於訓練模型，測試集用於評估性能。
超參數調整：通過交叉驗證選擇最佳的超參數配置。
## 感知器學習演算法
#### 基礎數學表示
##### 感知器模型
由輸入、權重和偏差組成，通過激活函數決定輸出。
激活函數：決定神經元是否被激活的函數（如Sigmoid、ReLU）。
##### 假設集 (hypothesis set)
所有可能的模型假設，形成決策邊界，模型的目標是找到一個最接近目標函數的假設。
##### 目標函數 (target function)
理想的預測函數，模型的目標是逼近此函數，以提高預測準確度。
##### 挑戰
如何選擇適當的假設集和學習算法以達到最佳性能。
過擬合：模型過於複雜，能夠完美擬合訓練數據，但在測試數據上表現不佳。
欠擬合：模型過於簡單，無法捕捉數據中的重要模式。
## 二元分類問題
#### Sigmoid函數
Sigmoid函數的公式：`( \sigma(x) = \frac{1}{1 + e^{-x}} )`，將輸出轉換為介於0和1之間的概率值。
在二元分類中，根據Sigmoid函數的輸出來決定類別（例如，若輸出大於0.5則為類別1，否則為類別0）。
#### 錯誤分類的修正方法
根據預測結果與實際標籤的差異來調整模型參數，使用梯度下降等優化算法來修正模型。
## 參數優化與假設選擇
#### 參數更新
在訓練過程中，根據損失函數的梯度來調整權重和偏差，以減少預測誤差。
損失函數：衡量模型預測與實際結果之間的差異，常用的有均方誤差、交叉熵等。
#### 選擇最佳假設
使用交叉驗證、網格搜索等方法來選擇最佳的模型超參數。
評估指標：例如準確率、精確度、召回率和F1分數等。
## 參數優化與假設選擇
#### 影響學習的因素
模型複雜度與資料噪音的關係：更複雜的模型可能在高噪音的數據集上產生不穩定的預測。
VC Dimension：一種用來評估模型複雜度的指標，越高的VC維度表示模型能夠擬合越複雜的函數。
#### 模型選擇
理解模型的偏差-方差權衡：選擇一個能夠在訓練數據與測試數據上達到最佳性能的模型。
## 理論與實作的聯繫
#### 實作中遇到的挑戰
理論提供了模型設計和調整的指導，特別是在模型表現不佳的情況下。
#### 資源需求
機器學習算法的計算資源需求，特別是在大數據和深度學習的背景下。
深度學習需要更高的計算能力和更大的數據集，與傳統機器學習方法有所不同。