KNN คืออะไร? วิธีเพื่อนบ้านใกล้สุด k ตัว สำหรับมือใหม่

Updated · By Viviai

KNN (k-nearest neighbor) หรือวิธีเพื่อนบ้านใกล้สุด k ตัว เป็นวิธีการจำแนกที่ใช้ความคล้ายคลึงหรือความใกล้ชิดเป็นตัวตัดสิน เมื่อมีจุดใหม่เข้ามา จะดูว่าจุดที่อยู่ใกล้ที่สุด k จุดเป็นกลุ่มไหนมากที่สุด แล้วจัดจุดใหม่นั้นให้อยู่กลุ่มนั้น โดยไม่ต้องสร้างโมเดลแยกต่างหาก

ภาษาง่าย ๆ

สมมติมีมดสามสายพันธุ์ยืนกระจายอยู่บนระนาบ โดยสีบอกชนิดของมด เมื่อสุ่มตำแหน่งขึ้นมาหนึ่งจุด เราจะรู้ได้อย่างไรว่าจุดนั้นอยู่ในเขตของมดชนิดไหน KNN ตอบด้วยหลักการง่าย ๆ ว่า จุดที่อยู่ใกล้ชนิดไหนมากที่สุด ก็น่าจะเป็นเขตของชนิดนั้น

แนวคิดหลัก

KNN ยึดบนความเชื่อที่ว่า ข้อมูลที่คล้ายกันมักอยู่ใกล้กัน ต่างจากถดถอยโลจิสติกที่แบ่งพื้นที่ด้วยเส้นตรงเพียงอย่างเดียว KNN สามารถแบ่งเขตที่ซับซ้อนและคดเคี้ยวได้ เพราะตัดสินจากตำแหน่งจริงของจุดข้อมูล ไม่ได้ผูกกับรูปแบบเส้นตรง

KNN ทำงานอย่างไร

  1. คำนวณระยะทางจากจุดใหม่ไปยังจุดที่ทราบกลุ่มแล้วทุกจุด
  2. เรียงจุดตามระยะจากน้อยไปมาก
  3. เลือกจุดที่ใกล้ที่สุด k จุดแรก
  4. นับว่าใน k จุดนั้นกลุ่มไหนมีจำนวนมากกว่า แล้วกำหนดผลลัพธ์ตามกลุ่มนั้น

ในพื้นที่สองมิติ ระยะห่างระหว่างสองจุดคำนวณได้จากผลต่างกำลังสองของพิกัด:

[ d = \sqrt{(x_1-x_2)^2 + (y_1-y_2)^2} ]

ในการเปรียบเทียบไม่จำเป็นต้องถอดรากทุกครั้ง เพราะการเรียงลำดับจากระยะกำลังสองให้ผลเหมือนกัน

บทบาทของค่า k

ค่า k คือจำนวนเพื่อนบ้านที่ใช้ตัดสิน และเป็นสิ่งสำคัญที่ต้องเลือก

ลักษณะค่า k ผลที่เกิดขึ้น
k เล็ก ไวต่อจุดรบกวนและค่าผิดปกติ เส้นแบ่งหยักมาก
k ใหญ่ เส้นแบ่งเรียบขึ้น แต่รายละเอียดท้องถิ่นอาจหายไป
k เป็นเลขคี่ ช่วยลดกรณีเสียงเท่ากันระหว่างสองกลุ่ม

ค่าที่นิยมใช้บ่อยคือ 5 แต่ควรลองหลายค่าแล้วเปรียบเทียบกับชุดตรวจสอบแทนการคาดเดา

เป็นการเรียนรู้แบบขี้เกียจ

KNN ไม่มีขั้นตอนฝึกอบรมที่สร้างโมเดลชัดเจน มันเพียงเก็บข้อมูลที่มีฉลากไว้ แล้วทำการคำนวณทั้งหมดตอนที่มีคำถามเข้ามา จึงเรียกว่า lazy learning (การเรียนรู้แบบขี้เกียจ) ต้นทุนตอนเตรียมข้อมูลต่ำ แต่เมื่อข้อมูลมีจำนวนมาก การเปรียบเทียบระยะตอนทำนายอาจใช้เวลามากขึ้น

การวัดระยะรูปแบบอื่น

นอกจากระยะเส้นตรงแบบยูคลิเดียน ยังมีตัวเลือกอื่นตามลักษณะข้อมูล

การวัดระยะ จุดเด่น เหมาะกับ
Euclidean ระยะเส้นตรงที่คุ้นเคย ข้อมูลที่ปรับมาตรฐานแล้ว
Manhattan ผลรวมผลต่างรายมิติ คุณลักษณะเชิงการนับ
Cosine เทียบทิศทางของเวกเตอร์ ข้อมูลข้อความและ embedding

ข้อจำกัด

KNN เข้าใจและนำไปใช้ได้ง่าย และไม่สมมติรูปแบบการแจกแจงตายตัว แต่ต้องเก็บข้อมูลทั้งชุดไว้ และคุณลักษณะที่มีหน่วยต่างกันควรปรับมาตรฐานก่อน มิฉะนั้นคุณลักษณะที่มีค่ากว้างจะกินระยะและชี้นำผลลัพธ์ การเลือกค่า k และการวัดระยะจึงควรตรวจสอบกับข้อมูลจริง

FAQ

KNN คืออะไร สั้น ๆ?

วิธีจำแนกที่ดูเพื่อนบ้านใกล้สุด k จุด แล้วให้กลุ่มที่มีเสียงข้างมากเป็นคำตอบ โดยไม่ต้องสร้างโมเดลแยก

ค่า k ทำหน้าที่อะไร?

กำหนดจำนวนจุดที่ใช้โหวต ค่าน้อยไวต่อสัญญาณรบกวน ค่ามากทำให้เส้นแบ่งเรียบและนุ่มขึ้น

เหตุใด KNN จึงเหมาะกับเขตแบ่งที่ซับซ้อน?

เพราะตัดสินจากตำแหน่งจุดจริง ไม่ได้จำกัดว่าต้องแบ่งด้วยเส้นตรงเหมือนถดถอยโลจิสติก

KNN ต้องฝึกโมเดลหรือไม่?

ไม่มีขั้นฝึกที่ชัดเจน เป็นการเรียนรู้แบบขี้เกียจที่เก็บข้อมูลไว้แล้วคำนวณตอนทำนาย

สรุป

อ่านต่อ [machine learning คืออะไร](machine-learning-khue-arai) และ [supervised learning คืออะไร](supervised-learning-khue-arai)


หมายเหตุบรรณาธิการ: บทความนี้ผ่านการตรวจสอบข้ามแหล่งแล้วด้วยแหล่งอิสระสองแหล่งจากผู้เผยแพร่ต่างกัน (แหล่งภาษาไทยเดิมและ IBM Think) แต่ยังรอการตรวจทานจากเจ้าของภาษาก่อนเลื่อนสถานะเป็นทางการ

Sources

  1. https://phyblas.hinaboshi.com/20171028
  2. https://www.ibm.com/topics/knn

Learn by doing

Read a guide, then practice with bite-sized AI lessons you can take offline.

Start learning free