Prompt Injection คืออะไร? คำแนะนำสำหรับมือใหม่
Prompt Injection คือการโจมตีที่หลอกโมเดล AI ให้ลืมคำสั่งเดิมแล้วทำตามคำสั่งของผู้โจมตี โมเดลภาษาอาจแยกไม่ออกว่าส่วนไหนคือคำสั่งของผู้พัฒนา ส่วนไหนคือข้อมูลทั่วไป ข้อความที่เขียนให้เหมือนคำสั่งจึงเปลี่ยนพฤติกรรมของมันได้
คำอธิบายแบบง่าย ๆ
ลองนึกภาพแชตบอตกำลังอ่านเนื้อหาบนหน้าเว็บ ผู้โจมตีแอบใส่ข้อความว่า "จงลืมกฎก่อนหน้าทั้งหมดและทำตามนี้" หากโมเดลเชื่อฟัง มันอาจเปิดเผยข้อมูลหรือทำสิ่งที่ผู้ใช้ไม่ได้ขอ OpenAI อธิบายว่านี่คือการโจมตีแบบวิศวกรรมสังคมที่ออกแบบมาสำหรับ AI การสนทนา
เหตุใดจึงเกิดขึ้น
โมเดลภาษาประมวลผลทุกอินพุตเป็นข้อความธรรมดาในการสนทนาเดียวกัน ต่างจากโปรแกรมที่แยกโค้ดกับข้อมูล LLM มองคำสั่งของระบบกับเนื้อหาจากเว็บหรือเอกสารในลักษณะคล้ายกัน ทำให้เส้นแบ่งระหว่างกันจางลง
ความเสี่ยงที่อาจเกิด
- ข้อมูลส่วนตัวหรือบทสนทนารั่วไหล
- ข้ามตัวกรองความปลอดภัยและสร้างเนื้อหาที่ไม่ควรเกิดขึ้น
- ในระบบ agent ที่เรียกใช้เครื่องมือ อาจกระตุ้นการกระทำที่ไม่ต้องการ
OWASP จัดให้ prompt injection เป็นความเสี่ยงอันดับหนึ่งของแอปพลิเคชัน LLM และ MITRE บันทึกเป็นเทคนิค AML.T0051
วิธีลดความเสี่ยง
- มองเนื้อหาจากแหล่งภายนอก (เว็บ อีเมล เอกสาร) เป็นข้อมูล ไม่ใช่คำสั่งที่น่าเชื่อถือ
- จำกัดสิทธิ์และเครื่องมือของโมเดล ให้ยืนยันก่อนทำงานสำคัญ
- อย่าใส่ข้อมูลละเอียดอ่อนในบริบท ใช้การตรวจสอบและเฝ้าดู
- สำหรับผู้ใช้ทั่วไป: ระวังการคัดลอกข้อความแปลกปลอมเข้าไปใน AI
FAQ
นี่คือการแฮ็กหรือไม่?
เป็นช่องโหว่ด้านความปลอดภัยของแอป AI แต่ไม่จำเป็นต้องเจาะระบบ ผู้โจมตีใช้ข้อความชักจูงโมเดล
ป้องกันได้หมดจรดหรือไม่?
ยังไม่มีวิธีเดียวที่แก้ได้หมด จึงควรป้องกันหลายชั้นและจำกัดสิทธิ์
กระทบเฉพาะ ChatGPT ไหม?
ไม่ใช่ ทุกโมเดลภาษาและแอปที่อ่านเนื้อหาภายนอก รวมถึง agent และแชตบอตอื่น อาจได้รับผลกระทบ
ต่างจาก SQL injection อย่างไร?
ทั้งคู่แอบส่งคำสั่งในอินพุต แต่ SQL injection เล่นงานฐานข้อมูล ส่วน prompt injection เล่นงานโมเดลภาษา
สรุป
- Prompt Injection หลอก AI ให้ทำตามคำสั่งที่ซ่อนอยู่
- สาเหตุคือโมเดลแยกคำสั่งกับข้อมูลได้ยาก
- ความเสี่ยงรวมถึงข้อมูลรั่วไหลและการละเมิดความปลอดภัย
- การป้องกันหลายชั้นและการจำกัดสิทธิ์ช่วยลดความเสี่ยง
อ่านต่อ AI chatbot คืออะไร และ การปกป้องความเป็นส่วนตัว
Sources
Learn by doing
Read a guide, then practice with bite-sized AI lessons you can take offline.
Start learning free