Anthropic और OpenAI के शीर्ष अधिकारी चेतावनी दे रहे हैं कि चीनी AI मॉडल गंभीर सुरक्षा जोखिम पैदा करते हैं, क्योंकि नए परीक्षणों में DeepSeek मॉडल के लिए 94% जेलब्रेक दर सामने आई है। वाशिंगटन अब इस खतरे के जवाब में प्रतिबंधों पर विचार कर रहा है।
जेलब्रेक के आंकड़े
DeepSeek, एक चीनी AI मॉडल, का परीक्षण सुरक्षा गार्डरेल को बायपास करने के प्रयासों का विरोध करने की क्षमता के लिए किया गया। परिणाम: 94% जेलब्रेक दर। इसका मतलब है कि मॉडल को हानिकारक या प्रतिबंधित सामग्री उत्पन्न करने के लिए धोखा देने के लगभग हर प्रयास सफल रहा। तुलना के लिए, अमेरिकी मॉडलों में आमतौर पर एकल-अंकीय जेलब्रेक दरें होती हैं।
अधिकारी क्या कह रहे हैं
Anthropic और OpenAI के नेताओं ने सार्वजनिक रूप से जोखिमों को उजागर किया है। उनका तर्क है कि इतने कमजोर गार्डरेल वाले मॉडलों का दुर्भावनापूर्ण तत्वों द्वारा शोषण किया जा सकता है — गलत सूचना, साइबर हमलों, या बड़े पैमाने पर खतरनाक सामग्री उत्पन्न करने के लिए। कंपनियों ने कोई विशिष्ट बयान जारी नहीं किया, लेकिन उनकी चेतावनियाँ नीति निर्माताओं तक पहुँच चुकी हैं।
वाशिंगटन की प्रतिक्रिया
अमेरिकी अधिकारी अब चीनी AI कंपनियों को लक्षित करने वाले प्रतिबंधों पर विचार कर रहे हैं। सटीक दायरा अभी स्पष्ट नहीं है — क्या यह मॉडल निर्यात, प्रशिक्षण बुनियादी ढाँचे, या स्वयं कंपनियों को प्रभावित करेगा। निश्चित यह है कि सुरक्षा चिंताएँ बातचीत को व्यापार से आगे राष्ट्रीय सुरक्षा की ओर ले जा रही हैं।
94% जेलब्रेक का आंकड़ा संभवतः इस प्रयास को गति देगा। सांसदों ने पहले ही राज्य-समर्थित डेवलपर्स से AI जोखिमों पर बंद ब्रीफिंग आयोजित की है। प्रतिबंध पहली ठोस कार्रवाई होगी।
आगे क्या होगा
अभी तक किसी प्रतिबंध की घोषणा नहीं की गई है, लेकिन व्हाइट हाउस से आने वाले हफ्तों में AI सुरक्षा के लिए एक ढाँचा जारी करने की उम्मीद है। DeepSeek मामला लगभग निश्चित रूप से उस दस्तावेज़ में शामिल होगा। फिलहाल, सवाल यह है कि क्या वाशिंगटन इससे पहले कार्रवाई करेगा कि इसी तरह की उच्च जेलब्रेक दरों वाले और मॉडल सामने आएँ।
