OpenAI ने GPT-6.1 Sol की डिफॉल्ट कॉन्टेक्स्ट लेंथ बढ़ाकर 500,000 टोकन कर दी है, जिसकी पुष्टि कंपनी ने इस सप्ताह की। यह कदम इसके फ्लैगशिप मॉडल की प्रभावी वर्किंग मेमोरी को दोगुने से भी अधिक कर देता है, जिससे यह बिना चंकिंग या री-ट्रेनिंग के एक ही सेशन में पूरी किताबें, लंबे कानूनी अनुबंध या विस्तृत कोडबेस प्रोसेस करने में सक्षम हो जाता है।
यह अपडेट केवल एंटरप्राइज ग्राहकों के लिए ही नहीं, बल्कि सभी उपयोगकर्ताओं के लिए लागू है और तुरंत प्रभावी हो गया है। यह पिछली डिफॉल्ट सीमा से एक बड़ा उछाल है और GPT-6.1 Sol को ऐसे कार्यों के लिए एक अलग श्रेणी में खड़ा करता है जो संदर्भ में भारी मात्रा में टेक्स्ट बनाए रखने पर निर्भर करते हैं।
व्यवहार में 500,000 टोकन का वास्तव में क्या अर्थ है
आधा मिलियन टोकन लगभग 375,000 शब्दों के उपन्यास के बराबर है — यानी पूरी Lord of the Rings त्रयी और साथ में The Hobbit, और इसके बाद भी काफी जगह बची रहेगी। पेशेवर संदर्भ में, यह 1,200 पन्नों का कानूनी डिस्कवरी बंडल, एक मध्यम आकार की टीम के पूरे एक साल के Slack मैसेज, या किसी छोटे सॉफ्टवेयर प्रोजेक्ट का पूरा सोर्स कोड हो सकता है।
OpenAI के मॉडल्स में पिछली डिफॉल्ट कॉन्टेक्स्ट लेंथ आमतौर पर 128,000 टोकन के आसपास रही है। 500,000 तक की यह छलांग केवल एक बड़ी संख्या भर नहीं है; यह इस बात के अर्थशास्त्र को बदल देती है कि डेवलपर्स और नॉलेज वर्कर्स अपने प्रॉम्प्ट्स को कैसे तैयार करते हैं। किसी दस्तावेज़ को टुकड़ों में तोड़ने और फिर उनके सारांशों को एक साथ जोड़ने के बजाय — एक ऐसी प्रक्रिया जिसमें अक्सर बारीकियां छूट जाती हैं और समय भी लगता है — उपयोगकर्ता अब पूरी सामग्री को एक ही बार में इनपुट कर सकते हैं।
OpenAI ने यह बदलाव अभी क्यों किया
प्रतिस्पर्धा निश्चित रूप से इसका एक प्रमुख कारक है। Anthropic और Google के प्रतिस्पर्धी मॉडल अपनी कॉन्टेक्स्ट विंडो को लगातार बढ़ा रहे हैं, और एंटरप्राइज खरीदारों ने लॉन्ग-कॉन्टेक्स्ट परफॉर्मेंस को अपनी प्राथमिक चेकलिस्ट में शामिल कर लिया है। लेकिन OpenAI का दृष्टिकोण अधिक सरल है: कंपनी का कहना है कि बड़ा विंडो GPT-6.1 Sol की जटिल कार्यों को संभालने की क्षमता को बढ़ाता है, विशेष रूप से वे कार्य जिनमें सैकड़ों पन्नों में बिखरी जानकारी को क्रॉस-रेफरेंस करने की आवश्यकता होती है।
इसका एक व्यावहारिक पहलू भी है। बड़े कॉन्टेक्स्ट विंडो रिट्रीवल-ऑगमेंटेड जेनरेशन पाइपलाइनों की आवश्यकता को कम करते हैं, जो शक्तिशाली तो हैं लेकिन काफी संवेदनशील भी होती हैं। जब कोई मॉडल पूरे कॉर्पस को सीधे पढ़ सकता है, तो आपको यह अनुमान लगाने की ज़रूरत नहीं होती कि कौन से हिस्से महत्वपूर्ण हैं।
वर्कफ़्लो में वह बदलाव जिसका अभी किसी ने पूरी तरह आकलन नहीं किया है
प्रोफेशनल वर्कफ़्लो ऐसे तरीकों से बदल सकता है जो पहली नज़र में स्पष्ट नहीं होते। एक वित्तीय विश्लेषक, जिसे पहले तिमाही फाइलों से आंकड़े निकालने में घंटों लगते थे, वह अब एक ही सवाल पूछकर ऐसा उत्तर पा सकता है जो एक दशक के 10-Ks से पेज नंबरों का हवाला देता है। विलय समझौते की समीक्षा करने वाला वकील हर संबंधित ईमेल, अनुबंध और मेमो को एक ही सेशन में लोड कर विसंगतियों की पहचान करने के लिए कह सकता है।
लेकिन बड़े कॉन्टेक्स्ट का मतलब अपने आप बेहतर उत्तर नहीं होता। मॉडल अत्यधिक लंबे इनपुट में अपना फोकस खो सकते हैं — इस घटना को शोधकर्ता "लॉस्ट इन द मिडल" कहते हैं। OpenAI ने इस बारे में विस्तृत बेंचमार्क प्रकाशित नहीं किए हैं कि GPT-6.1 Sol पूरी 500,000-टोकन सीमा पर कैसा प्रदर्शन करता है, इसलिए उपयोगकर्ताओं को अपने उपयोग के मामलों का खुद परीक्षण करना होगा।
लागत भी एक अन्य अज्ञात पहलू है। OpenAI ने यह स्पष्ट नहीं किया है कि विस्तारित कॉन्टेक्स्ट से API ग्राहकों के लिए कीमतों में कोई बदलाव होगा या नहीं। ऐतिहासिक रूप से, लंबे संदर्भ का मतलब प्रति-टोकन उच्च दरें रही हैं, क्योंकि एक साथ अधिक टेक्स्ट प्रोसेस करने के लिए अतिरिक्त कंप्यूट की आवश्यकता होती है।
आगे क्या देखना महत्वपूर्ण होगा
GPT-6.1 Sol पर काम करने वाले डेवलपर्स अपनी मौजूदा पाइपलाइनों के मुकाबले इस नई सीमा का परीक्षण करना चाहेंगे। कंपनी ने छोटे कॉन्टेक्स्ट मोड्स के लिए कोई औपचारिक डेप्रिकेशन टाइमलाइन जारी नहीं की है, लेकिन डिफॉल्ट पहले ही बदल चुका है। चंकिंग रणनीतियों पर निर्भर टीमों के लिए, अब यह पुनर्मूल्यांकन करने का समय है कि क्या वे समाधान अभी भी प्रासंगिक हैं।
उम्मीद है कि OpenAI आने वाले दिनों में अपडेटेड API दस्तावेज़ीकरण और मूल्य निर्धारण विवरण प्रकाशित करेगा। तब तक, अधिकांश उपयोगकर्ताओं के लिए व्यावहारिक सीमा वही है जो उनका बजट अनुमति देता है — 500,000 टोकन अब न्यूनतम आधार है, अधिकतम सीमा नहीं।
