tags: machine learning|python

機器學習 - 單純貝氏分類器(Naive Bayes)

介紹

• 假設特徵之間強（樸素）獨立下運用貝氏定理為基礎的簡單機率分類器
• 特徵之間為相互獨立的(但現實中不太可能完全獨立)，公式為
  $P(A|X)=\frac{P(X|A)\ast P(A)}{P(X)}$(
  $X$為特徵，
  $A$為類別)

貝式定理

公式：

$P(A|B)=\frac{P(B|A)\ast P(A)}{P(B)}$

$P(A|B)$表示在B發生的情況下，A發生的機率為何

例子

$Ans:$

$P(Defect|Mach2)=\frac{P(Mach2|Defect)\ast P(Defect)}{P(Mach1)}=\frac{0.5\ast 0.01}{0.4}=0.0125=1.25$%

Naive Bayes

$P(Walks|X)=\frac{P(X|Walks)\ast P(Walks)}{P(X)}$

$P(Drives|X)=\frac{P(X|Drives)\ast P(Drives)}{P(X)}$

• Likelihood為可能性，表示獨立特徵X(以此例來說是
  $Salary$或
  $Age$)發生的可能性
• 用來比較
  $P(Walks|X)$與
  $P(Drives|X)$哪個較高，較高者就將此資料點分為那類(以此例來說是
  $Walks$或
  $Drives$)

算法

我還沒寫ouo

程式碼操作

練習

機器學習-第14週教學影片觀看【Naive Bayes(單純貝氏分類器)】

$Ans:$

1. $P(Defect|Mach1)=\frac{P(Mach1|Defect)\ast P(Defect)}{P(Mach1)}=\frac{0.5\ast 0.01}{0.6}=0.008\overline{3}=0.833$%
2. 運用貝氏定理為基礎的簡單機率分類器，特徵之間為相互獨立的(但現實中不太可能完全獨立)，公式為
   $P(A|X)=\frac{P(X|A)\ast P(A)}{P(X)}$(
   $X$為特徵，
   $A$為類別)

機器學習-作業