Fungsi Kerugian Adalah? Cara Model Mengukur Kesalahan Prediksi

Updated · By Viviai

Fungsi kerugian (loss function), kadang disebut fungsi biaya atau fungsi kesalahan, adalah fungsi yang memetakan selisih antara nilai prediksi model dan nilai sebenarnya menjadi satu bilangan yang menggambarkan "biaya" dari kesalahan tersebut; nilai yang lebih kecil umumnya menandakan prediksi yang lebih dekat. Proses pelatihan berusaha meminimalkan fungsi ini lewat penurunan gradien, dan perambatan mundur membantu menghitung gradiennya untuk setiap bobot.

Mengapa fungsi kerugian diperlukan

Model tidak dapat memperbaiki diri tanpa tahu seberapa besar kesalahannya. Penilaian samar seperti "agak meleset" tidak cukup untuk komputer. Fungsi kerugian mengubah setiap penyimpangan menjadi angka yang jelas, sehingga setiap putaran pelatihan bisa membandingkan apakah perubahan yang baru dilakukan membuat model lebih baik atau tidak.

Fungsi kerugian biasanya mengacu pada satu contoh atau satu prediksi. Saat nilai tersebut dirata-ratakan pada seluruh kumpulan data, hasil ringkasnya sering disebut fungsi biaya. Kedua istilah ini kerap dipakai bergantian, dan keduanya sama-sama mengukur kesalahan.

Peran dalam satu siklus pelatihan

  1. Model menghasilkan prediksi.
  2. Fungsi kerugian membandingkan prediksi dengan nilai sebenarnya dan menghasilkan angka kesalahan.
  3. Perambatan mundur menghitung gradien angka tersebut terhadap setiap bobot.
  4. Pengoptimal memperbarui bobot agar kesalahan pada putaran berikutnya lebih kecil.

Fungsi kerugian menentukan sasaran, sedangkan algoritma lain mencari jalan menuju sasaran itu.

Jenis fungsi kerugian yang umum dipakai

Fungsi Untuk Ide utama
Rataan kesalahan kuadrat (MSE) Regresi Menghukum kesalahan besar lebih berat karena mengkuadratkan selisih
Kesalahan absolut (MAE) Regresi Mengukur jarak rata-rata, kurang sensitif terhadap nilai ekstrem
Entropi silang Klasifikasi Menghukum prediksi yang yakin tetapi salah kelas
Hinge loss Klasifikasi margin Terkait dengan mesin vektor dukungan

Pilihan fungsi bergantung pada jenis masalah dan karakteristik data, sehingga tidak ada satu pilihan yang cocok untuk semua situasi.

Rataan kesalahan kuadrat

Untuk masalah regresi, misalnya memprediksi sebuah angka, MSE mengambil selisih antara prediksi dan nilai sebenarnya lalu mengkuadratkannya:

[ \text{MSE} = \frac{1}{N}\sum_{i=1}^{N}(y_i - \hat{y}_i)^2 ]

Pengkuadratan membuat kesalahan besar mendapat hukuman lebih berat. Jika data banyak mengandung nilai ekstrem, MAE bisa memberi gambaran yang lebih stabil karena tidak memperbesar kesalahan.

Entropi silang untuk klasifikasi

Ketika model mengeluarkan probabilitas tiap kelas, entropi silang mengukur jarak antara distribusi probabilitas prediksi dan label sebenarnya. Prediksi salah yang disertai keyakinan tinggi akan dihukum berat. Fungsi ini lazim dipakai pada masalah klasifikasi dan jaringan saraf tiruan.

Fungsi kerugian, fungsi tujuan, dan fungsi hadiah

Tidak semua masalah mencari nilai minimum. Pada pembelajaran penguatan, model biasanya memaksimalkan fungsi hadiah; jika ditulis sebagai nilai yang perlu dikecilkan, ia menjadi bentuk fungsi kerugian. Karena itu, fungsi tujuan adalah istilah umum yang bisa berupa fungsi kerugian untuk diminimalkan atau fungsi hadiah untuk dimaksimalkan.

Pengaruhnya terhadap pelatihan

Catatan saat memilih fungsi

Pertanyaan yang Sering Diajukan

Apa beda fungsi kerugian dan fungsi biaya?

Fungsi kerugian sering merujuk pada kesalahan satu contoh, sedangkan fungsi biaya adalah nilai gabungan, biasanya berupa rataan pada seluruh data. Dalam praktiknya keduanya kerap dipakai hampir sama.

Apakah fungsi kerugian kecil berarti model sudah baik?

Belum tentu. Jika hanya kecil pada data latih tetapi besar pada data baru, model bisa mengalami overfitting. Penilaian pada data uji independen tetap diperlukan.

Mengapa entropi silang dipakai untuk klasifikasi?

Karena bekerja dengan probabilitas dan menghukum berat prediksi salah yang sangat yakin, sehingga model perlahan memberi probabilitas tinggi pada kelas yang benar.

Apa itu fungsi tujuan?

Istilah umum untuk nilai yang dioptimalkan. Pada fungsi kerugian tujuannya diminimalkan, sedangkan pada fungsi hadiah tujuannya dimaksimalkan.

Perlu menulis fungsi kerugian sendiri?

Pustaka pembelajaran mesin sudah menyediakan banyak fungsi umum. Pendefinisian sendiri biasanya hanya diperlukan saat bentuk biaya pada masalah bersifat khusus.

Ringkasan

Sources

  1. https://id.wikipedia.org/wiki/Fungsi_kerugian
  2. https://en.wikipedia.org/wiki/Loss_function

Learn by doing

Read a guide, then practice with bite-sized AI lessons you can take offline.

Start learning free