เคล็ดลับการฉีดคืออะไร
ผู้โจมตีซ่อนคําสั่งที่เป็นอันตรายในการป้อนข้อมูลของผู้ใช้และหลอกลวง LLM ให้ทําสิ่งที่ไม่ควรทํา เช่น เพิกเฉยต่อคําสั่งก่อนหน้านี้ ส่งออกคําเตือนของระบบ
กรณีทั่วไป
เมื่อหน้าเว็บปีนขึ้นมา หน้าเว็บจะซ่อนการแจ้งเตือนเพื่อฉีดรหัส เอกสารที่อัปโหลดโดยผู้ใช้ซ่อน prompt ที่เป็นอันตราย การสนทนาหลายรอบค่อย ๆ นําทาง
วิธีการป้องกัน
การกรองอินพุต ระบบแยกคำพร้อมท์; ความคิดเห็นเอาท์พุท; สิทธิ์ขั้นต่ำ; อย่าให้ LLM ดำเนินการที่ละเอียดอ่อนโดยตรง
คำประกาศ: บทความบนเว็บไซต์นี้มาจากเนื้อหาต้นฉบับ การแชร์ซ้ำ การสร้างโดย AI และแหล่งอื่นๆ หากมีปัญหาเกี่ยวกับลิขสิทธิ์หรือปัญหาอื่นๆ โปรดส่งความคิดเห็น บริษัทของเราจะตรวจสอบและดำเนินการโดยเร็วที่สุด