Financial Times के परीक्षण से पता चला कि Meta और Google के AI सुरक्षा नियंत्रणों को मिनटों में बायपास किया जा सकता है। ये निष्कर्ष वर्तमान सुरक्षा उपायों की मजबूती के दावों को चुनौती देते हैं।
परीक्षण पद्धति
पत्रकारों ने मॉडलों को हानिकारक सामग्री उत्पन्न करने के लिए मानक इनपुट का उपयोग किया। उन्होंने सामान्य परिस्थितियों में दोनों कंपनियों के सार्वजनिक AI टूल्स का परीक्षण किया। बायपास विशेष तकनीकी कौशल के बिना हुआ।
प्लेटफॉर्म की प्रतिक्रियाएँ
Meta ने कहा कि वह अपने सिस्टम को लगातार अपडेट करता है और परीक्षण के बाद से नए प्रतिबंध जोड़े हैं। Google ने कहा कि वह कई सुरक्षा परतों का उपयोग करता है और खोजे जाने पर समस्याओं का तेजी से समाधान करता है। किसी भी कंपनी ने FT के निष्कर्षों पर विवाद नहीं किया।
नियामक दबाव
EU AI अधिनियम की अक्टूबर 2024 की अनुपालन समय सीमा नजदीक आ रही है। नियामक अब इन परीक्षणों को इस बात के प्रमाण के रूप में इंगित करते हैं कि वर्तमान उद्योग स्व-निगरानी विफल हो रही है। ब्रसेल्स में विधायक संभावित प्रवर्तन कार्रवाइयों के लिए रिपोर्ट की समीक्षा कर रहे हैं।
उपयोगकर्ता जोखिम
अनफ़िल्टर्ड आउटपुट में हानिकारक सलाह और गलत जानकारी शामिल थी। प्रभावित उपकरणों का उपभोक्ताओं और डेवलपर्स द्वारा व्यापक रूप से उपयोग किया जाता है। कंपनियों का कहना है कि अधिकांश उपयोगकर्ताओं को सामान्य उपयोग के दौरान इन समस्याओं का सामना नहीं करना पड़ेगा।
Financial Times का परीक्षण दिखाता है कि वर्तमान AI सुरक्षा उपाय कितनी आसानी से टूट जाते हैं। अब कंपनियों को EU की अक्टूबर की समय सीमा से पहले इन कमियों को ठीक करना होगा।
