'जेलब्रेकिंग' शब्द का इस्तेमाल पहले iPhones को क्रैक करके अनधिकृत ऐप्स इंस्टॉल करने के लिए किया जाता था। अब यह एक अलग तरह के हैक का वर्णन करता है: AI चैटबॉट्स को उनके अंतर्निहित सुरक्षा उपायों को नजरअंदाज करने के लिए बरगलाना। ChatGPT जैसे बड़े भाषा मॉडल के डेवलपर्स के लिए, यह बिल्ली-चूहे का खेल लगातार सिरदर्द बना हुआ है।
फ़ोन से प्रॉम्प्ट तक
'जेलब्रेकिंग' शब्द iPhone युग से आया है, जब उपयोगकर्ता Cydia जैसे टूल के माध्यम से Apple के प्रतिबंधों को दरकिनार करते थे। उसी विचार को AI सिस्टम के लिए पुनः उपयोग किया गया है। जिस तरह iPhone जेलब्रेकर Apple द्वारा अनुमोदित नहीं किए गए सॉफ़्टवेयर को चलाना चाहते थे, उसी तरह AI जेलब्रेकर चैटबॉट से ऐसी बातें कहलवाना चाहते हैं जो उन्हें नहीं कहनी चाहिए। लक्ष्य हमेशा दुर्भावनापूर्ण नहीं होता—कभी यह जिज्ञासा होती है, कभी सीमाओं का परीक्षण। लेकिन प्रभाव एक ही होता है: मॉडल के प्रतिबंधों को ओवरराइड कर दिया जाता है।
खेल कैसे काम करता है
बिल्ली-चूहे का खेल प्रॉम्प्ट में खेला जाता है। उपयोगकर्ता ऐसे संदेश तैयार करते हैं जो मॉडल को बिना किसी प्रतिबंध के एक किरदार निभाने के लिए कहते हैं, या वे अनुरोधों को काल्पनिक परिदृश्यों के रूप में पेश करते हैं। कुछ यह दिखावा करके मॉडल को अपने प्रशिक्षण को नजरअंदाज करने की कोशिश करते हैं कि बातचीत एक खेल या कहानी है। डेवलपर्स, बदले में, इन चालों को पकड़ने के लिए अपने सुरक्षा फिल्टर को अपडेट करते हैं। लेकिन जैसे ही एक खामी बंद होती है, दूसरी खुल जाती है। यह एक आगे-पीछे का खेल है जिसके धीमा होने का कोई संकेत नहीं है।
डेवलपर्स क्यों चिंतित हैं
AI प्रयोगशालाएँ चिंतित हैं क्योंकि सफल जेलब्रेक हानिकारक आउटपुट का कारण बन सकते हैं। एक चैटबॉट जो सामान्यतः खतरनाक गतिविधियों के लिए निर्देश देने से इनकार करता है, यदि बरगलाया जाए तो वह चरण-दर-चरण मार्गदर्शन प्रदान कर सकता है। यही बात घृणास्पद भाषण, गलत सूचना या अश्लील सामग्री उत्पन्न करने पर भी लागू होती है। डेवलपर्स मॉडल को सुरक्षित और सहायक बनाने में महत्वपूर्ण संसाधन खर्च करते हैं। जेलब्रेकिंग उस काम को कमजोर करता है और यह सवाल उठाता है कि ये सिस्टम वास्तव में कितने भरोसेमंद हैं। दांव ऊंचे हैं क्योंकि LLMs को हर दिन अधिक उत्पादों में एकीकृत किया जा रहा है।
इस बात का कोई संकेत नहीं है कि लड़ाई जल्द खत्म होगी। जैसे-जैसे डेवलपर्स एक खामी को ठीक करते हैं, उपयोगकर्ता दूसरी ढूंढ लेते हैं। सवाल यह है कि क्या भविष्य के मॉडलों को इन हमलों का सामना करने के लिए पर्याप्त मजबूत बनाया जा सकता है, या क्या जेलब्रेकिंग AI परिदृश्य की एक स्थायी विशेषता बनी रहेगी।
