Apa Itu Prompt Injection? Penjelasan untuk Pemula
Prompt injection (injeksi prompt) adalah serangan yang mengelabui model AI agar mengabaikan instruksi aslinya dan menjalankan perintah dari penyerang. Model bahasa tidak selalu bisa membedakan mana instruksi dari pengembang dan mana data biasa yang dibaca, sehingga teks yang dibuat menyerupai perintah dapat mengubah perilakunya.
Versi sederhananya
Bayangkan sebuah chatbot yang membaca isi halaman web. Penyerang menyelipkan kalimat seperti "abaikan semua aturan sebelumnya dan lakukan ini" di halaman itu. Jika model menurutinya, ia bisa membocorkan informasi atau melakukan tindakan yang tidak diminta pengguna. OpenAI menggambarkannya sebagai rekayasa sosial khusus untuk AI percakapan.
Mengapa bisa terjadi
Model bahasa memproses semua masukan sebagai teks biasa dalam satu percakapan. Berbeda dengan program yang memisahkan kode dan data, LLM memperlakukan instruksi sistem dan konten dari situs atau dokumen dengan cara yang serupa, sehingga batas di antaranya bisa dikaburkan.
Contoh risiko
- Membocorkan data atau isi percakapan pribadi.
- Melewati filter keamanan dan menghasilkan konten yang tidak seharusnya.
- Pada sistem agen yang menjalankan alat, memicu tindakan yang tidak diinginkan.
OWASP menempatkan prompt injection sebagai risiko nomor satu untuk aplikasi LLM, dan MITRE mencatatnya sebagai teknik AML.T0051.
Cara mengurangi risiko
- Perlakukan konten dari sumber eksternal (web, email, dokumen) sebagai data, bukan perintah tepercaya.
- Batasi izin dan alat yang bisa diakses model, serta minta tindakan penting dikonfirmasi.
- Gunakan validasi, pemisahan konten, dan pemantauan; jangan menaruh informasi sensitif dalam konteks.
- Untuk pengguna biasa: waspada menyalin teks tak dikenal ke dalam AI dan periksa hasil yang tampak aneh.
FAQ
Apakah prompt injection sama dengan peretasan?
Ini adalah kerentanan keamanan pada aplikasi AI, tetapi tidak selalu berarti membobol sistem; penyerang memanipulasi model lewat teks.
Apakah bisa dihentikan sepenuhnya?
Belum ada satu solusi yang menyelesaikan semuanya, sehingga pertahanan berlapis dan pembatasan izin lebih realistis.
Apakah hanya menyerang ChatGPT?
Tidak. Semua model bahasa dan aplikasi yang memproses konten dari luar, termasuk agen dan chatbot lain, bisa terdampak.
Apa bedanya dengan SQL injection?
Keduanya menyelipkan perintah jahat ke dalam input, tetapi SQL injection menyasar database, sedangkan prompt injection menyasar model bahasa.
Poin utama
- Prompt injection mengelabui AI agar menuruti perintah tersembunyi.
- Penyebabnya model sulit memisahkan instruksi dan data.
- Risiko mencakup kebocoran data dan pelanggaran keamanan.
- Pertahanan berlapis dan izin terbatas membantu menguranginya.
Lanjutkan membaca apa itu chatbot dan cara melindungi data pribadi.
Sources
Learn by doing
Read a guide, then practice with bite-sized AI lessons you can take offline.
Start learning free