Hyperparameter คืออะไร? ค่าที่ตั้งก่อนฝึกและควบคุมว่าโมเดลจะเรียนอย่างไร

Updated · By Viviai

Hyperparameter (ไฮเปอร์พารามิเตอร์) คือ ค่าที่เราตั้งขึ้นก่อนเริ่มฝึกโมเดล เพื่อกำหนดลักษณะของกระบวนการเรียนรู้ เช่น ความเร็วในการปรับพารามิเตอร์ จำนวนรอบฝึก หรือจำนวนกลุ่ม มันต่างจากพารามิเตอร์ภายในที่โมเดลปรับเองจากข้อมูล โดยเราจะเลือกไฮเปอร์พารามิเตอร์ก่อน แล้วโมเดลจึงเรียนพารามิเตอร์ภายในให้เหมาะสม

ไฮเปอร์พารามิเตอร์คืออะไร

ในการฝึกการเรียนรู้ของเครื่องมีค่าสองระดับที่ควรแยกกัน:

ลองนึกภาพการอบขนม: พารามิเตอร์คือสิ่งที่เปลี่ยนไปในเตาอบตามธรรมชาติ ส่วนไฮเปอร์พารามิเตอร์คืออุณหภูมิและเวลาที่เราตั้งก่อนเริ่ม

ตัวอย่างไฮเปอร์พารามิเตอร์

ปรับไฮเปอร์พารามิเตอร์อย่างไร

การเลือกค่าที่เหมาะสมเรียกว่าการจูน (tuning) โดยลองหลายชุดแล้ววัดผล:

กำหนดค่าที่จะลองเป็นตาราง แล้วทดสอบทุกชุดผสม ง่ายต่อการจัดระเบียบแต่อาจใช้เวลามากเมื่อมีหลายปัจจัย

สุ่มเลือกค่าภายในช่วงที่กำหนด มักคุ้มค่ากว่าเมื่อมีไฮเปอร์พารามิเตอร์หลายตัว

การใช้การตรวจสอบข้าม

เพื่อไม่ให้ผลลำเอียงจากการแบ่งข้อมูลชุดเดียว มักใช้ cross-validation ประเมินแต่ละชุดค่า แล้วเลือกชุดที่ให้ผลสม่ำเสมอที่สุด

ตารางขั้นตอน

ขั้น การกระทำ
1 เลือกไฮเปอร์พารามิเตอร์และช่วงค่า
2 ลองหลายชุดด้วย grid หรือ random search
3 ประเมินด้วย cross-validation
4 เลือกชุดที่ให้ผลดีแล้วฝึกใหม่

ทำไมสำคัญ

ข้อควรระวัง

FAQ

ไฮเปอร์พารามิเตอร์ต่างจากพารามิเตอร์อย่างไร?

ไฮเปอร์พารามิเตอร์ตั้งก่อนฝึก ส่วนพารามิเตอร์เป็นค่าภายในที่โมเดลปรับเองจากข้อมูลระหว่างฝึก

ตัวอย่างไฮเปอร์พารามิเตอร์มีอะไรบ้าง?

เช่น learning rate, epoch, batch size, จำนวนกลุ่ม (k) และจำนวนชั้นของโครงข่าย

Grid Search คืออะไร?

วิธีลองทุกชุดค่าที่กำหนดไว้ในตาราง ใช้งานง่ายแต่อาจเสียเวลามากเมื่อปัจจัยเยอะ

ทำไมต้องใช้ cross-validation?

เพื่อประเมินแต่ละชุดค่าหลายรอบ ลดความลำเอียงจากการแบ่งข้อมูลชุดเดียว

จูนมากเกินไปมีผลเสียไหม?

มี อาจทำให้โมเดลปรับเข้ากับข้อมูลเฉพาะมากเกินไปและเกิด overfitting กับข้อมูลใหม่

สรุป

Sources

  1. https://th.wikipedia.org/wiki/%E0%B9%84%E0%B8%AE%E0%B9%80%E0%B8%9B%E0%B8%AD%E0%B8%A3%E0%B9%8C%E0%B8%9E%E0%B8%B2%E0%B8%A3%E0%B8%B2%E0%B8%A1%E0%B8%B4%E0%B9%80%E0%B8%95%E0%B8%AD%E0%B8%A3%E0%B9%8C
  2. https://en.wikipedia.org/wiki/Hyperparameter_(machine_learning)

Learn by doing

Read a guide, then practice with bite-sized AI lessons you can take offline.

Start learning free