Jaringan Saraf Berulang (RNN) Adalah? Cara Kerja dan Contohnya

Updated · By Viviai

Jaringan saraf berulang (Recurrent Neural Network, disingkat RNN) adalah arsitektur jaringan saraf yang dirancang untuk data sekuensial, seperti teks, ucapan, dan deret waktu. Perbedaan utamanya adalah RNN menyimpan keadaan tersembunyi (hidden state) yang diteruskan dari satu langkah waktu ke langkah berikutnya, sehingga model dapat "mengingat" informasi sebelumnya alih-alih memproses setiap input secara terpisah.

Jawaban Singkat: Cara Kerja RNN

Jaringan saraf biasa memperlakukan setiap input sebagai sesuatu yang berdiri sendiri dan tidak menyimpan konteks. RNN menambahkan sebuah putaran: pada setiap langkah, model menerima input saat ini bersama keadaan tersembunyi dari langkah sebelumnya, lalu menghasilkan keadaan tersembunyi baru dan meneruskannya.

Bentuk sederhana perhitungannya:

Di sini (x_t) adalah input pada langkah (t), (h_{t-1}) adalah keadaan tersembunyi sebelumnya, dan matriks bobot (W_x, W_h, W_y) dibagikan ke seluruh langkah waktu, bukan dibuat baru untuk setiap langkah.

Komponen Utama RNN

Alur Pemrosesan per Langkah Waktu

  1. Pada langkah (t), model menerima input (x_t) dan keadaan tersembunyi (h_{t-1}).
  2. Keduanya digabungkan dan melewati fungsi tanh untuk membentuk keadaan tersembunyi baru (h_t).
  3. (h_t) dipakai untuk menghitung output (y_t).
  4. (h_t) juga diteruskan ke langkah (t+1), dan proses berulang sampai urutan selesai.

Karena bobot yang sama dibagikan ke seluruh urutan, jumlah parameter tidak bertambah seiring panjang kalimat, dan model mempelajari pola yang berlaku pada setiap posisi.

Mengapa RNN Cocok untuk Data Berurutan

Urutan pada banyak jenis data membawa makna. Kata dalam kalimat, nada musik, atau pembacaan sensor dari waktu ke waktu bergantung pada elemen sebelumnya. Keadaan tersembunyi memungkinkan RNN memakai konteks lama untuk menafsirkan bagian yang sedang diproses.

Jenis data Contoh tugas
Teks Analisis sentimen, pemodelan bahasa, penerjemahan
Ucapan Pengenalan ucapan, ucapan ke teks
Deret waktu Peramalan, data sensor, rekam medis
Tulisan tangan Pengenalan tulisan yang tersambung

RNN berkaitan erat dengan pemrosesan bahasa alami dan, bersama jaringan saraf tiruan, menjadi dasar banyak model LLM generasi awal.

Masalah Gradien Hilang dan Gradien Ledakan

Saat dilatih, RNN secara konseptual "dibentangkan" dan dipelajari dengan propagasi balik melalui waktu (Backpropagation Through Time, BPTT). Gradien kesalahan dikalikan berulang melewati banyak langkah, yang menimbulkan dua gejala:

RNN sederhana umumnya kesulitan menangani ketergantungan yang melebihi beberapa puluh langkah, sehingga arsitektur berpintu dikembangkan.

LSTM dan GRU: Dua Variasi yang Umum

Keduanya menjaga "jalur gradien" agar informasi tidak cepat menghilang pada urutan panjang.

Kelebihan dan Keterbatasan

Kelebihan

Keterbatasan

Pertanyaan yang Sering Diajukan

Apa bedanya RNN dengan jaringan saraf biasa?

Jaringan biasa memproses input secara independen dan tidak menyimpan konteks. RNN memiliki putaran yang membawa keadaan tersembunyi melewati langkah waktu, sehingga output saat ini dapat bergantung pada data yang lebih dulu muncul.

Apa fungsi keadaan tersembunyi?

Keadaan tersembunyi adalah vektor yang merangkum informasi yang sudah dibaca sampai langkah saat ini, berperan sebagai memori jangka pendek dan diteruskan ke langkah berikutnya.

Kapan sebaiknya memakai LSTM atau GRU?

Saat urutan input panjang dan RNN sederhana mengalami gradien hilang, LSTM atau GRU membantu menjaga informasi penting. GRU umumnya lebih ringan, sedangkan LSTM memiliki kontrol memori yang lebih lengkap.

Apakah RNN masih dipakai sekarang?

RNN dan variasinya pernah dominan untuk data urutan, tetapi banyak tugas kini memakai arsitektur transformer. Memahami RNN tetap berguna karena konsep keadaan tersembunyi dan ketergantungan urutan menjadi dasar untuk model yang lebih baru.

Ringkasan

Jaringan saraf berulang memproses data sekuensial dengan memelihara keadaan tersembunyi yang diteruskan tiap langkah waktu dan bobot yang dibagikan ke seluruh langkah. Tantangan gradien hilang memunculkan LSTM dan GRU yang membantu menjaga informasi jangka panjang. Ini adalah arsitektur dasar untuk memahami cara AI menangani teks, ucapan, dan data waktu.

Sources

  1. https://ruang-guru.github.io/ai-bootcamp-interactive/docs/llm-nlp/06-rnn.html
  2. https://wiki.unissula.ac.id/Pemelajaran_dalam
  3. https://id.eitca.org/kecerdasan-buatan/eitc-ai-gcml-pembelajaran-mesin-cloud-google/langkah-lebih-lanjut-dalam-pembelajaran-mesin/generasi-bahasa-alami/ujian-meninjau-generasi-bahasa-alami/bagaimana-pembelajaran-mesin-memungkinkan-pembuatan-bahasa-alami/
  4. https://garuda.kemdiktisaintek.go.id/documents/detail/6008491

Learn by doing

Read a guide, then practice with bite-sized AI lessons you can take offline.

Start learning free