# 簡單貝氏分類器介紹及其應用
---

## 貝式理論


---
## 樸素貝式分類(Naive Bayes classifier)


簡單貝氏模型直接假設所有的隨機變數之間具有條件獨立的情況，因此可以直接利用條件機率相乘的方法，計算出聯合機率分布。
p(X|C)=P(X1|C)P(X2|C)...P(Xd|C)其中 X=[X1,X2,...,Xd] 是一個特徵向量，而 C 代表一個特定類別。這個假設看來似乎過強，一般實際世界的資料似乎無法滿足此假設，但由此假設所產生的單純貝氏分類器(naive Bayes classifier)卻是相當有實用性，其辨識效能常常不輸給其它更複雜的辨識器。

貝氏分類器在20世紀60年代初引入到文本信息檢索界中，並仍然是文本分類的一種熱門方法，文本分類是以詞頻為特徵判斷文件所屬類別或其他(如垃圾郵件、合法性、體育或政治等)的問題。通過適當的預處理，它可以與這個領域更先進的方法(如支持向量機)相競爭。

樸素貝葉斯分類器是高度可擴展的，因此需要數量與學習問題中的變量成線性關係的參數。最大似然訓練可以通過評估一個封閉形式的表達式來完成，只需花費線性時間，而不需要其他很多類型的分類器所使用的費時的疊代逼近。

---
## 貝式信念網路(Bayesian Belief Networks; BBN)

>簡單貝氏分類法要求所有屬性(變數)都滿足條件獨立過於嚴格。
而貝氏信念網路 (簡稱貝氏網路) 則允許指定哪些屬性需符合條件獨立。
* 貝氏網路的兩個重要元素是：
* 用有向的非循環圖表示變數間的相依關係
* 用機率表記錄每個節點和它的直接父節點間的關聯
---
## 貝式分類的應用