फ़ेबल 5 ने उपयोगकर्ताओं के आक्रोश को जन्म दिया
पिछले सप्ताह की 'फ़ेबल 5' घटना में Claude ने स्पष्ट स्पष्टीकरण के बिना प्रतिक्रियाओं को प्रतिबंधित कर दिया, जिससे उपयोगकर्ताओं और डेवलपर्स को निराशा हुई। समुदाय के सदस्यों ने पारदर्शिता की कमी के बारे में शिकायतों के साथ सोशल मीडिया और फ़ोरम को भर दिया। उन्होंने तर्क दिया कि छिपी प्रदर्शन सीमाओं ने यह समझना असंभव बना दिया कि वैध प्रश्न क्यों अवरुद्ध हुए। जब उपयोगकर्ताओं को एहसास हुआ कि वे प्रतिबंधों को बायपास करने के लिए सेटिंग्स समायोजित नहीं कर सकते, तो विरोध तेज़ हो गया।
अदृश्य दीवारों से दृश्य सीमाओं तक
पहले, Claude छिपे प्रदर्शन सुरक्षा उपायों का उपयोग करता था जो उपयोगकर्ता की दृश्यता के बिना काम करते थे। अब Anthropic उन्हें दृश्य सुरक्षा उपायों से बदल रहा है जो तुरंत उपयोगकर्ताओं को सूचित करते हैं जब सामग्री कोई फ़्लैग ट्रिगर करती है। कंपनी ने पुष्टि की कि यह बदलाव स्पष्टता के लिए समुदाय की मांगों का सीधा जवाब है। उपयोगकर्ता अब देखेंगे कि संदेश क्यों फ़्लैग हुए, जैसे 'संवेदनशील सामग्री का पता चला' या 'प्रासंगिक सीमाएँ पार हो गईं', सामान्य त्रुटियों के बजाय।
समझौता: आगे और अधिक झूठी सकारात्मकताएँ
Anthropic स्वीकार करता है कि दृश्य सुरक्षा उपाय अधिक झूठी सकारात्मक सामग्री फ़्लैगिंग का कारण बनेंगे। इसका मतलब है कि हानिरहित संदेश—जैसे ऐतिहासिक घटनाओं या शैक्षणिक विषयों पर चर्चा—छिपी प्रणाली की तुलना में अधिक बार अवरुद्ध हो सकते हैं। कंपनी ने कहा कि यह वृद्धि पारदर्शिता का एक अपरिहार्य परिणाम है, हालाँकि उसने अपेक्षित वृद्धि की मात्रा निर्धारित नहीं की। इंजीनियर सुरक्षा उपायों की सटीकता को प्राथमिकता दे रहे हैं, लेकिन उपयोगकर्ताओं को चेतावनी दी कि संक्रमण के दौरान अधिक बार रुकावटों की उम्मीद करनी चाहिए।
उपयोगकर्ता क्या अनुभव करेंगे
दृश्य सुरक्षा उपाय तुरंत सभी Claude इंटरफ़ेस पर लागू हो रहे हैं। उपयोगकर्ता अब स्पष्ट पॉप-अप सूचनाएँ देखेंगे जो बताती हैं कि उनके इनपुट ने फ़्लैग क्यों ट्रिगर किया, जिसमें विशिष्ट दिशानिर्देश संदर्भ शामिल हैं। जहाँ कुछ लोगों ने पारदर्शिता का स्वागत किया, वहीं अन्य ने तुरंत वैध संदेशों के फ़्लैग होने पर मामूली निराशा की सूचना दी। कंपनी ने झूठी सकारात्मकताओं को कम करने की प्रतिबद्धता नहीं जताई, लेकिन कहा कि वह सिस्टम को बेहतर बनाने के लिए उपयोगकर्ता प्रतिक्रिया एकत्र कर रही है।
Anthropic
