Fungsi Kerugian Adalah? Cara Model Mengukur Kesalahan Prediksi
Fungsi kerugian (loss function), kadang disebut fungsi biaya atau fungsi kesalahan, adalah fungsi yang memetakan selisih antara nilai prediksi model dan nilai sebenarnya menjadi satu bilangan yang menggambarkan "biaya" dari kesalahan tersebut; nilai yang lebih kecil umumnya menandakan prediksi yang lebih dekat. Proses pelatihan berusaha meminimalkan fungsi ini lewat penurunan gradien, dan perambatan mundur membantu menghitung gradiennya untuk setiap bobot.
Mengapa fungsi kerugian diperlukan
Model tidak dapat memperbaiki diri tanpa tahu seberapa besar kesalahannya. Penilaian samar seperti "agak meleset" tidak cukup untuk komputer. Fungsi kerugian mengubah setiap penyimpangan menjadi angka yang jelas, sehingga setiap putaran pelatihan bisa membandingkan apakah perubahan yang baru dilakukan membuat model lebih baik atau tidak.
Fungsi kerugian biasanya mengacu pada satu contoh atau satu prediksi. Saat nilai tersebut dirata-ratakan pada seluruh kumpulan data, hasil ringkasnya sering disebut fungsi biaya. Kedua istilah ini kerap dipakai bergantian, dan keduanya sama-sama mengukur kesalahan.
Peran dalam satu siklus pelatihan
- Model menghasilkan prediksi.
- Fungsi kerugian membandingkan prediksi dengan nilai sebenarnya dan menghasilkan angka kesalahan.
- Perambatan mundur menghitung gradien angka tersebut terhadap setiap bobot.
- Pengoptimal memperbarui bobot agar kesalahan pada putaran berikutnya lebih kecil.
Fungsi kerugian menentukan sasaran, sedangkan algoritma lain mencari jalan menuju sasaran itu.
Jenis fungsi kerugian yang umum dipakai
| Fungsi | Untuk | Ide utama |
|---|---|---|
| Rataan kesalahan kuadrat (MSE) | Regresi | Menghukum kesalahan besar lebih berat karena mengkuadratkan selisih |
| Kesalahan absolut (MAE) | Regresi | Mengukur jarak rata-rata, kurang sensitif terhadap nilai ekstrem |
| Entropi silang | Klasifikasi | Menghukum prediksi yang yakin tetapi salah kelas |
| Hinge loss | Klasifikasi margin | Terkait dengan mesin vektor dukungan |
Pilihan fungsi bergantung pada jenis masalah dan karakteristik data, sehingga tidak ada satu pilihan yang cocok untuk semua situasi.
Rataan kesalahan kuadrat
Untuk masalah regresi, misalnya memprediksi sebuah angka, MSE mengambil selisih antara prediksi dan nilai sebenarnya lalu mengkuadratkannya:
[ \text{MSE} = \frac{1}{N}\sum_{i=1}^{N}(y_i - \hat{y}_i)^2 ]
Pengkuadratan membuat kesalahan besar mendapat hukuman lebih berat. Jika data banyak mengandung nilai ekstrem, MAE bisa memberi gambaran yang lebih stabil karena tidak memperbesar kesalahan.
Entropi silang untuk klasifikasi
Ketika model mengeluarkan probabilitas tiap kelas, entropi silang mengukur jarak antara distribusi probabilitas prediksi dan label sebenarnya. Prediksi salah yang disertai keyakinan tinggi akan dihukum berat. Fungsi ini lazim dipakai pada masalah klasifikasi dan jaringan saraf tiruan.
Fungsi kerugian, fungsi tujuan, dan fungsi hadiah
Tidak semua masalah mencari nilai minimum. Pada pembelajaran penguatan, model biasanya memaksimalkan fungsi hadiah; jika ditulis sebagai nilai yang perlu dikecilkan, ia menjadi bentuk fungsi kerugian. Karena itu, fungsi tujuan adalah istilah umum yang bisa berupa fungsi kerugian untuk diminimalkan atau fungsi hadiah untuk dimaksimalkan.
Pengaruhnya terhadap pelatihan
- Bentuk fungsi: fungsi yang halus dan dapat diturunkan membuat gradien dihitung dengan stabil.
- Skala nilai: bila fungsi kerugian menghasilkan angka sangat besar, penskalaan data dan regularisasi membantu menjaga pelatihan tetap terkendali.
- Overfitting: kesalahan pada data latih bisa sangat kecil sementara model kurang baik pada data baru, jadi fungsi kerugian perlu dipantau juga pada data uji.
- Laju pembelajaran: laju pembelajaran menentukan besar langkah pembaruan berdasarkan gradien fungsi kerugian.
Catatan saat memilih fungsi
- Masalah regresi dan klasifikasi membutuhkan kelompok fungsi yang berbeda.
- Nilai ekstrem dan distribusi label memengaruhi pilihan antara MSE dan MAE.
- Jika biaya tiap jenis kesalahan tidak sama, fungsi kerugian berbobot dapat dipakai.
- Pastikan fungsi dapat diturunkan pada rentang data yang dikerjakan, karena perambatan mundur membutuhkan turunan.
Pertanyaan yang Sering Diajukan
Apa beda fungsi kerugian dan fungsi biaya?
Fungsi kerugian sering merujuk pada kesalahan satu contoh, sedangkan fungsi biaya adalah nilai gabungan, biasanya berupa rataan pada seluruh data. Dalam praktiknya keduanya kerap dipakai hampir sama.
Apakah fungsi kerugian kecil berarti model sudah baik?
Belum tentu. Jika hanya kecil pada data latih tetapi besar pada data baru, model bisa mengalami overfitting. Penilaian pada data uji independen tetap diperlukan.
Mengapa entropi silang dipakai untuk klasifikasi?
Karena bekerja dengan probabilitas dan menghukum berat prediksi salah yang sangat yakin, sehingga model perlahan memberi probabilitas tinggi pada kelas yang benar.
Apa itu fungsi tujuan?
Istilah umum untuk nilai yang dioptimalkan. Pada fungsi kerugian tujuannya diminimalkan, sedangkan pada fungsi hadiah tujuannya dimaksimalkan.
Perlu menulis fungsi kerugian sendiri?
Pustaka pembelajaran mesin sudah menyediakan banyak fungsi umum. Pendefinisian sendiri biasanya hanya diperlukan saat bentuk biaya pada masalah bersifat khusus.
Ringkasan
- Fungsi kerugian mengubah selisih prediksi dan nilai sebenarnya menjadi angka untuk dioptimalkan.
- MSE dan MAE lazim untuk regresi, entropi silang untuk klasifikasi.
- Perambatan mundur menghitung gradien, lalu penurunan gradien memakainya untuk memperbarui bobot.
- Fungsi tujuan adalah nama umum yang bisa diminimalkan atau dimaksimalkan tergantung masalah.
- Nilai fungsi kerugian perlu dilihat bersama hasil pada data uji agar overfitting tidak terlewat.
Sources
Learn by doing
Read a guide, then practice with bite-sized AI lessons you can take offline.
Start learning free