คำว่า 'เจลเบรก' (jailbreaking) เดิมหมายถึงการเจาะระบบ iPhone เพื่อติดตั้งแอปที่ไม่ได้รับอนุญาต ตอนนี้มันอธิบายถึงการแฮ็กอีกประเภทหนึ่ง: การหลอกให้แชทบอท AI เพิกเฉยต่อมาตรการป้องกันในตัวของมัน สำหรับนักพัฒนาโมเดลภาษาขนาดใหญ่อย่าง ChatGPT เกมไล่จับนี้เป็นปัญหาปวดหัวอย่างต่อเนื่อง
จากโทรศัพท์สู่พรอมต์
คำว่า 'เจลเบรก' มาจากยุค iPhone เมื่อผู้ใช้หลีกเลี่ยงข้อจำกัดของ Apple ผ่านเครื่องมืออย่าง Cydia แนวคิดเดียวกันนี้ถูกนำมาใช้ใหม่กับระบบ AI เช่นเดียวกับที่ผู้เจลเบรก iPhone ต้องการรันซอฟต์แวร์ที่ Apple
