Apa Itu Prompt Injection? Penjelasan untuk Pemula

Updated · By Viviai

Prompt injection (injeksi prompt) adalah serangan yang mengelabui model AI agar mengabaikan instruksi aslinya dan menjalankan perintah dari penyerang. Model bahasa tidak selalu bisa membedakan mana instruksi dari pengembang dan mana data biasa yang dibaca, sehingga teks yang dibuat menyerupai perintah dapat mengubah perilakunya.

Versi sederhananya

Bayangkan sebuah chatbot yang membaca isi halaman web. Penyerang menyelipkan kalimat seperti "abaikan semua aturan sebelumnya dan lakukan ini" di halaman itu. Jika model menurutinya, ia bisa membocorkan informasi atau melakukan tindakan yang tidak diminta pengguna. OpenAI menggambarkannya sebagai rekayasa sosial khusus untuk AI percakapan.

Mengapa bisa terjadi

Model bahasa memproses semua masukan sebagai teks biasa dalam satu percakapan. Berbeda dengan program yang memisahkan kode dan data, LLM memperlakukan instruksi sistem dan konten dari situs atau dokumen dengan cara yang serupa, sehingga batas di antaranya bisa dikaburkan.

Contoh risiko

OWASP menempatkan prompt injection sebagai risiko nomor satu untuk aplikasi LLM, dan MITRE mencatatnya sebagai teknik AML.T0051.

Cara mengurangi risiko

FAQ

Apakah prompt injection sama dengan peretasan?

Ini adalah kerentanan keamanan pada aplikasi AI, tetapi tidak selalu berarti membobol sistem; penyerang memanipulasi model lewat teks.

Apakah bisa dihentikan sepenuhnya?

Belum ada satu solusi yang menyelesaikan semuanya, sehingga pertahanan berlapis dan pembatasan izin lebih realistis.

Apakah hanya menyerang ChatGPT?

Tidak. Semua model bahasa dan aplikasi yang memproses konten dari luar, termasuk agen dan chatbot lain, bisa terdampak.

Apa bedanya dengan SQL injection?

Keduanya menyelipkan perintah jahat ke dalam input, tetapi SQL injection menyasar database, sedangkan prompt injection menyasar model bahasa.

Poin utama

Lanjutkan membaca apa itu chatbot dan cara melindungi data pribadi.

Sources

  1. https://openai.com/index/understanding-prompt-injections/
  2. https://owasp.org/www-community/attacks/PromptInjection
  3. https://learn.microsoft.com/en-us/training/modules/fundamentals-ai-security/5-ai-prompt-injection

Learn by doing

Read a guide, then practice with bite-sized AI lessons you can take offline.

Start learning free