Naive Bayes คืออะไร? ตัวจำแนกความน่าจะเป็นสำหรับมือใหม่
Naive Bayes (เบย์แบบไร้เดียงสา) เป็นกลุ่มตัวจำแนกเชิงความน่าจะเป็นที่อาศัยทฤษฎีบทเบย์ โดยตั้งสมมติฐานว่าคุณสมบัติต่าง ๆ เป็นอิสระต่อกันภายใต้คลาสที่กำหนด แม้สมมติฐานนี้มักไม่เป็นจริงในข้อมูลจริง แต่โมเดลกลับเรียบง่าย รวดเร็ว และให้ผลดี โดยเฉพาะการจำแนกข้อความและกรองสแปม
ภาษาง่าย ๆ
สมมติเราต้องเดาว่าอีเมลฉบับหนึ่งเป็นสแปมหรือไม่ เราดูคำที่ปรากฏในอีเมล แล้วถามว่า ถ้ารู้ว่าเป็นสแปม คำแต่ละคำมีโอกาสปรากฏมากน้อยแค่ไหน Naive Bayes รวมโอกาสของทุกคำเข้าด้วยกัน แล้วตัดสินคลาสที่มีความน่าจะเป็นสูงกว่า
จุดที่เรียกว่า "ไร้เดียงสา" (naive) คือ มันสมมติว่าคำแต่ละคำไม่เกี่ยวข้องกัน ทั้งที่ในความเป็นจริงคำมักสัมพันธ์กัน แต่สมมติฐานที่เรียบง่ายนี้กลับช่วยให้คำนวณได้เร็วและมักเพียงพอ
ทฤษฎีบทเบย์กับแนวคิดหลัก
Naive Bayes ยึดทฤษฎีบทเบย์ ซึ่งเชื่อมความน่าจะเป็นก่อนหน้าเข้ากับความน่าจะเป็นภายหลัง:
[ P(C \mid X) = \frac{P(X \mid C)\,P(C)}{P(X)} ]
- (P(C)) คือความน่าจะเป็นก่อนหน้าของคลาส
- (P(X \mid C)) คือความเป็นไปได้ของคุณสมบัติเมื่อรู้คลาส
- (P(C \mid X)) คือความน่าจะเป็นภายหลังที่ใช้ตัดสิน
เมื่อจำแนก โมเดลจะเลือกคลาสที่ให้ค่าความน่าจะเป็นภายหลังสูงสุด ตัวส่วน (P(X)) เหมือนกันในทุกคลาส จึงไม่จำเป็นต้องคำนวณเพื่อเปรียบเทียบ
เหตุใดสมมติฐานความเป็นอิสระจึงสำคัญ
หากไม่สมมติความเป็นอิสระ การประมาณความน่าจะเป็นร่วมของทุกคุณสมบัติพร้อมกันต้องใช้ข้อมูลจำนวนมากและแตกแขนงอย่างรวดเร็ว Naive Bayes เขียนความน่าจะเป็นร่วมเป็นผลคูณของความน่าจะเป็นรายคุณสมบัติ:
[ P(X \mid C) = \prod_{i=1}^{d} P(x_i \mid C) ]
สมการนี้ทำให้แต่ละคุณสมบัติประมาณค่าแยกกันได้ จึงประหยัดทั้งหน่วยความจำและเวลา แม้ค่าความน่าจะเป็นที่ได้อาจไม่แม่นยำสมบูรณ์ แต่การตัดสินคลาสมักยังถูกต้อง
ประเภทของ Naive Bayes
| รูปแบบ | ใช้กับข้อมูล | ตัวอย่างงาน |
|---|---|---|
| GaussianNB | ตัวแปรต่อเนื่อง สมมติการแจกแจงปกติ | การวัด ความสูง น้ำหนัก |
| MultinomialNB | ค่าความถี่ไม่ต่อเนื่อง | จำแนกข้อความ นับจำนวนคำ |
| BernoulliNB | ตัวแปรบูลีน คำปรากฏ/ไม่ปรากฏ | เอกสารที่ใช้ค่าตรรกะ |
สำหรับตัวแปรต่อเนื่อง GaussianNB จะประมาณค่าเฉลี่ยและส่วนเบี่ยงเบนมาตรฐานของแต่ละคลาส แล้วใช้ฟังก์ชันความหนาแน่นปกติ
ปัญหาความน่าจะเป็นศูนย์กับการปรับให้เรียบ
หากคำหนึ่งไม่เคยปรากฏในคลาสใดในการฝึก ความน่าจะเป็นจะเป็นศูนย์ และเมื่อคูณกันจะทำให้ทั้งผลคูณเป็นศูนย์ ทั้งที่คำอื่น ๆ อาจชี้ไปคลาสนั้น
วิธีแก้คือการปรับให้เรียบ (smoothing) เช่น Laplace smoothing ด้วยพารามิเตอร์ α โดยเพิ่ม α เข้าไปในการนับแต่ละคำ เพื่อไม่ให้ค่าใดเป็นศูนย์เด็ดขาด codemoomoo ระบุว่า α ทำหน้าที่ควบคุมการปรับให้เรียบนี้
ขั้นตอนการจำแนก
- เตรียมข้อมูลและนับความถี่ของแต่ละคุณสมบัติในแต่ละคลาส
- ประมาณค่าความน่าจะเป็นก่อนหน้าและความเป็นไปได้รายคุณสมบัติ
- ใช้การปรับให้เรียบเพื่อหลีกเลี่ยงค่าศูนย์
- คำนวณความน่าจะเป็นภายหลังของแต่ละคลาส
- เลือกคลาสที่มีค่าสูงสุดเป็นคำตอบ
จุดเด่นและข้อจำกัด
Naive Bayes เรียบง่ายและทำนายได้รวดเร็ว ใช้งานได้ดีกับข้อมูลปริมาณน้อยและข้อมูลหลายมิติอย่างข้อความ และไม่บังคับให้จุดทุกจุดต้องสังกัดคลาสแบบถดถอยโลจิสติกในรูปแบบเส้นตรง ข้อจำกัดคือสมมติฐานความเป็นอิสระอาจไม่จริง โมเดลไวต่อคำที่หายาก และค่าความน่าจะเป็นที่ประมาณอาจลำเอียงหากข้อมูลฝึกไม่สมดุล
FAQ
Naive Bayes คืออะไร สั้น ๆ?
ตัวจำแนกเชิงความน่าจะเป็นตามทฤษฎีบทเบย์ ที่สมมติคุณสมบัติเป็นอิสระต่อกันภายใต้คลาส
เหตุใดจึงนิยมใช้กับข้อความและสแปม?
เพราะเร็ว รองรับมิติคำจำนวนมาก และให้ผลดีในการจำแนกเอกสารเมื่อเตรียมข้อมูลเหมาะสม
ปัญหาความน่าจะเป็นศูนย์แก้อย่างไร?
ใช้การปรับให้เรียบอย่าง Laplace โดยเพิ่ม α ในการนับ เพื่อไม่ให้ค่าใดเป็นศูนย์
GaussianNB ต่างจาก MultinomialNB อย่างไร?
GaussianNB ใช้กับตัวแปรต่อเนื่องแบบการแจกแจงปกติ ส่วน MultinomialNB ใช้กับค่าความถี่ไม่ต่อเนื่องเช่นจำนวนคำ
สรุป
- Naive Bayes เป็นตัวจำแนกความน่าจะเป็นตามทฤษฎีบทเบย์
- สมมติคุณสมบัติเป็นอิสระเพื่อให้คำนวณง่ายและรวดเร็ว
- Gaussian, Multinomial และ Bernoulli เหมาะกับข้อมูลคนละแบบ
- การปรับให้เรียบช่วยแก้ปัญหาความน่าจะเป็นศูนย์
อ่านต่อ [machine learning คืออะไร](machine-learning-khue-arai) [NLP คืออะไร](nlp-khue-arai) และ [การเรียนรู้แบบมีผู้สอน](supervised-learning-khue-arai)
Sources
Learn by doing
Read a guide, then practice with bite-sized AI lessons you can take offline.
Start learning free