जेरेमी अल्लायर, Circle के सीईओ, भविष्यवाणी करते हैं कि पांच वर्षों के भीतर अरबों AI एजेंट काम कर रहे होंगे। हालांकि, शोधकर्ता सतर्कता बरतने का आग्रह कर रहे हैं, यह कहते हुए कि इन AI एजेंटों को अविश्वसनीय प्रणालियों के रूप में माना जाना चाहिए। ये दो बयान, तकनीकी दुनिया के अलग-अलग कोनों से आते हुए, तेजी से तैनाती और सुरक्षा सावधानी के बीच एक स्पष्ट विरोधाभास प्रस्तुत करते हैं।
सीईओ का पूर्वानुमान
अल्लायर ने निकट भविष्य में AI एजेंटों के पैमाने के बारे में भविष्यवाणी की। जबकि उन्होंने विशिष्ट उपयोग के मामलों या ऐसी वृद्धि का समर्थन करने के लिए आवश्यक बुनियादी ढांचे का विवरण नहीं दिया, एक बड़ी भुगतान कंपनी के प्रमुख का यह पूर्वानुमान प्रौद्योगिकी के विस्तार में व्यापक विश्वास का सुझाव देता है। Circle अपने डिजिटल मुद्राओं और ब्लॉकचेन कार्यों के लिए सबसे अधिक जाना जाता है, लेकिन अल्लायर की टिप्पणियाँ इस विश्वास की ओर इशारा करती हैं कि AI एजेंट उद्योगों में सर्वव्यापी हो जाएंगे।
शोधकर्ताओं की चेतावनी
अलग से, शोधकर्ताओं के एक समूह ने एक स्पष्ट चेतावनी जारी की है: AI एजेंटों पर डिफ़ॉल्ट रूप से भरोसा नहीं किया जाना चाहिए। उनका तर्क है कि संभावित नुकसान या दुरुपयोग को रोकने के लिए इन प्रणालियों को अविश्वसनीय मानना आवश्यक है। शोधकर्ताओं ने यह निर्दिष्ट नहीं किया कि किस प्रकार के AI एजेंट - सरल चैटबॉट से लेकर अधिक स्वायत्त निर्णय-निर्माताओं तक - सबसे बड़ा जोखिम पैदा करते हैं, लेकिन सामान्य सिफारिश इस क्षेत्र का अध्ययन करने वालों के बीच गहरी चिंता का संकेत देती है।
एक ही क्षितिज पर विरोधाभासी दृष्टिकोण
दोनों बयान एक समय सीमा साझा करते हैं: अगले पांच वर्ष। एक अरबों एजेंटों के संचालन को देखता है; दूसरा कहता है कि उनमें से प्रत्येक को संदेह की दृष्टि से देखा जाना चाहिए। यह तनाव प्रौद्योगिकी के लिए नया नहीं है - तेजी से अपनाना अक्सर सुरक्षा सोच से आगे निकल जाता है - लेकिन अल्लायर द्वारा भविष्यवाणी किया गया विशाल पैमाना शोधकर्ताओं की सावधानी को विशेष रूप से तीखा बनाता है। यदि वास्तव में अरबों एजेंट तैनात किए जाते हैं, तो प्रत्येक को अविश्वसनीय मानने के लिए यह सोचने की आवश्यकता होगी कि उन्हें कैसे बनाया, निगरानी और शासित किया जाता है। किसी भी एक उद्योग निकाय या नियामक ने अभी तक AI एजेंट विश्वास के लिए बाध्यकारी नियम जारी नहीं किए हैं। अल्लायर के आशावादी समयरेखा और शोधकर्ताओं के सुरक्षा-प्रथम रुख के बीच का अंतर एक बहस को उजागर करता है जो पांच साल के निशान के करीब आने पर तेज होने की संभावना है।
