การตรวจสอบไขว้ (cross validation) คืออะไร: k-fold ทำงานอย่างไร

Updated · By Viviai

หมายเหตุบรรณาธิการ: บทความนี้ผ่านการตรวจสอบข้ามแหล่งแล้วด้วยแหล่งอิสระสองแหล่งจากผู้เผยแพร่ต่างกัน (บล็อก phyblas และเอกสาร scikit-learn) แต่ยังรอการตรวจทานจากเจ้าของภาษาก่อนเลื่อนสถานะเป็นทางการ

การตรวจสอบไขว้ (cross validation) เป็นวิธีประเมินโมเดลที่สลับใช้ข้อมูลชุดเดิมเป็นชุดฝึกและชุดทดสอบซ้ำหลายรอบ แล้วนำผลทุก รอบมาหาค่าเฉลี่ย เพื่อลดความบังเอิญจากการแบ่งข้อมูลครั้งเดียว. วิธีที่นิยมคือ k-fold ซึ่งแบ่งข้อมูลเป็น k กลุ่มและฝึกทั้งหมด k ครั้ง โดยแต่ละกลุ่มจะถูกใช้เป็นชุดทดสอบครั้งเดียวพอดี

เหตุใดการแบ่งครั้งเดียวจึงไม่เพียงพอ

หากแยกชุดทดสอบเพียงครั้งเดียว ความแม่นยำที่วัดได้อาจบังเอิญสูงหรือต่ำ เพราะข้อมูลที่หยิบมากระจายตัวไม่ดีพอ การตรวจสอบไขว้แก้ปัญหานี้ด้วยการให้ข้อมูลที่มีอยู่สลับกันเป็นชุดฝึกและชุดทดสอบ ทำซ้ำหลายครั้งแล้วเปรียบเทียบผลในแต่ละรอบ คำว่า “ไขว้” จึงหมายถึงการสลับสับเปลี่ยนข้อมูลไปมา

k-fold ทำงานอย่างไร

  1. แบ่งข้อมูลทั้งหมดออกเป็น k กลุ่มขนาดใกล้เคียงกัน
  2. รอบแรกให้กลุ่มที่หนึ่งเป็นชุดทดสอบ ส่วนที่เหลือเป็นชุดฝึก
  3. รอบต่อมาเปลี่ยนให้กลุ่มถัดไปเป็นชุดทดสอบ แล้วทำต่อจนครบทุกกลุ่ม
  4. แต่ละกลุ่มถูกใช้เป็นชุดทดสอบครั้งเดียว และเป็นชุดฝึกในรอบอื่น
  5. นำประสิทธิภาพจาก k รอบมาหาค่าเฉลี่ย และส่วนเบี่ยงเบนมาตรฐานเพื่อดูช่วงความแม่นยำ

ตัวอย่างเช่น หากมีข้อมูล 100 รายการและแบ่งเป็น 5 กลุ่ม จะฝึกทั้งหมด 5 รอบ แต่ละรอบใช้ 80 รายการฝึกและ 20 รายการทดสอบ โดยทุก รายการได้อยู่ในชุดทดสอบอย่างน้อยหนึ่งครั้ง

การสุ่มสลับและแบบแบ่งชั้น

การสุ่ม (shuffle)

หากไม่สลับลำดับ ข้อมูลที่เรียงกันอยู่แล้วจะถูกแบ่งตามลำดับเดิม ซึ่งอาจทำให้บางกลุ่มไม่เป็นตัวแทน การตั้งให้สลับข้อมูลก่อนแบ่งช่วยให้แต่ละกลุ่มกระจายดีขึ้น

StratifiedKFold

StratifiedKFold แบ่งกลุ่มโดยรักษาสัดส่วนคำตอบในแต่ละกลุ่มให้ใกล้เคียงกับข้อมูลต้นฉบับ เหมาะกับกรณีที่คำตอบบางประเภทมีน้อย เพื่อไม่ให้กลุ่มหนึ่งมีแต่คำตอบชนิดเดียว

เปรียบเทียบ k-fold กับ StratifiedKFold

วิธี หลักการ เหมาะกับ
KFold แบ่งตามขนาดกลุ่ม แล้วสลับเป็นชุดทดสอบ ข้อมูลทั่วไปที่สัดส่วนคำตอบสมดุล
StratifiedKFold รักษาสัดส่วนคำตอบในทุกกลุ่ม ข้อมูลไม่สมดุลหรือคำตอบบางประเภทหายาก

ค่าที่ได้บอกอะไร

นอกจากค่าเฉลี่ยของความแม่นยำแล้ว ส่วนเบี่ยงเบนมาตรฐานยังช่วยบอกว่าผลการฝึกแต่ละรอบต่างกันมากเพียงใด ค่าเบี่ยงเบนสูงอาจชี้ว่าโมเดลไวต่อการแบ่งข้อมูลหรือข้อมูลมีไม่มากพอ การดูทั้งค่าเฉลี่ยและการกระจายจึงให้ภาพที่น่าเชื่อถือกว่าการดูตัวเลขเดียว

ข้อควรระวังในการใช้งาน

ความเชื่อมโยงกับหัวข้ออื่น

การตรวจสอบไขว้มักใช้เพื่อเลือกโมเดลและควบคุมปัญหา overfitting ในงาน machine learning และช่วยเปรียบเทียบตัวแบบเช่น decision tree หรือการทำ regularization ว่าแบบใดให้ผลทั่วไปดีกว่ากัน

FAQ

k-fold ต่างจากการแบ่งชุดทดสอบครั้งเดียวอย่างไร

k-fold สลับให้ทุกส่วนของข้อมูลได้เป็นชุดทดสอบ แล้วเฉลี่ยผลหลายรอบ จึงลดความบังเอิญจากการหยิบข้อมูลครั้งเดียว

ควรแบ่งกี่กลุ่ม

ค่าที่พบบ่อยคือ 5 หรือ 10 กลุ่ม แต่ยิ่งแบ่งมากยิ่งใช้เวลาฝึกมากขึ้น ควรเลือกตามขนาดข้อมูลและเวลาที่มี

StratifiedKFold จำเป็นเมื่อใด

จำเป็นเมื่อข้อมูลไม่สมดุลหรือคำตอบบางประเภทมีน้อย เพื่อให้แต่ละกลุ่มยังคงมีสัดส่วนคำตอบใกล้เคียงข้อมูลจริง

เหตุใดจึงต้องดูส่วนเบี่ยงเบนมาตรฐานด้วย

เพราะค่าเฉลี่ยอย่างเดียวไม่บอกว่าผลแต่ละรอบต่างกันแค่ไหน ส่วนเบี่ยงเบนสูงอาจหมายถึงโมเดลไม่เสถียรหรือข้อมูลไม่เพียงพอ

สรุป

การตรวจสอบไขว้ช่วยประเมินว่าโมเดลจะทำงานกับข้อมูลใหม่ได้ดีเพียงใด โดยสลับข้อมูลฝึกและทดสอบซ้ำหลายรอบ k-fold เป็นรูปแบบพื้นฐาน ส่วน StratifiedKFold ช่วยรักษาสัดส่วนคำตอบ การเตรียมข้อมูลที่ถูกต้องภายในแต่ละกลุ่มจะช่วยป้องกันข้อมูลรั่วและให้ผลประเมินที่น่าเชื่อถือ

Sources

  1. https://phyblas.hinaboshi.com/20171018
  2. https://scikit-learn.org/stable/modules/cross_validation.html

Learn by doing

Read a guide, then practice with bite-sized AI lessons you can take offline.

Start learning free