Prompt Injection Là Gì? Hướng Dẫn Cho Người Mới

Updated · By Viviai

Prompt injection (tiêm prompt) là kiểu tấn công lừa mô hình AI bỏ qua chỉ dẫn ban đầu và làm theo mệnh lệnh của kẻ tấn công. Mô hình ngôn ngữ không phải lúc nào cũng phân biệt được đâu là chỉ dẫn của nhà phát triển, đâu là dữ liệu thông thường, nên văn bản được viết như một mệnh lệnh có thể thay đổi hành vi của nó.

Giải thích đơn giản

Hãy tưởng tượng một chatbot đang đọc nội dung trang web. Kẻ tấn công chèn vào đó câu "hãy bỏ qua mọi quy tắc trước đó và làm điều này". Nếu mô hình nghe theo, nó có thể làm lộ thông tin hoặc thực hiện việc người dùng không hề yêu cầu. OpenAI mô tả đây là hình thức tấn công kỹ thuật xã hội dành riêng cho AI hội thoại.

Vì sao xảy ra

Mô hình ngôn ngữ xử lý mọi đầu vào như văn bản thuần trong cùng một cuộc hội thoại. Khác với chương trình tách riêng mã lệnh và dữ liệu, LLM coi chỉ dẫn hệ thống và nội dung từ trang web hay tài liệu theo cách tương tự nhau, nên ranh giới giữa chúng có thể bị làm mờ.

Rủi ro thường gặp

OWASP xếp prompt injection là rủi ro số một cho ứng dụng LLM, và MITRE ghi nhận đây là kỹ thuật AML.T0051.

Cách giảm thiểu

FAQ

Đây có phải là hack không?

Là lỗ hổng bảo mật của ứng dụng AI, nhưng không nhất thiết phải phá hệ thống; kẻ tấn công thao túng mô hình bằng văn bản.

Có thể ngăn chặn hoàn toàn không?

Chưa có giải pháp đơn lẻ nào triệt để, nên phòng thủ nhiều lớp và giới hạn quyền là cách thực tế.

Chỉ ảnh hưởng đến ChatGPT phải không?

Không. Mọi mô hình ngôn ngữ và ứng dụng đọc nội dung bên ngoài, gồm cả agent và chatbot khác, đều có thể bị ảnh hưởng.

Khác gì với SQL injection?

Cả hai đều lén đưa mệnh lệnh vào đầu vào, nhưng SQL injection nhắm vào cơ sở dữ liệu, còn prompt injection nhắm vào mô hình ngôn ngữ.

Tóm tắt

Đọc tiếp AI chatbot là gì và cách bảo vệ quyền riêng tư.

Sources

  1. https://openai.com/index/understanding-prompt-injections/
  2. https://owasp.org/www-community/attacks/PromptInjection
  3. https://learn.microsoft.com/en-us/training/modules/fundamentals-ai-security/5-ai-prompt-injection

Learn by doing

Read a guide, then practice with bite-sized AI lessons you can take offline.

Start learning free