OpenAI চলতি সপ্তাহে নিশ্চিত করেছে যে তারা GPT-6.1 Sol-এর ডিফল্ট কনটেক্সট দৈর্ঘ্য বাড়িয়ে ৫,০০,০০০ টোকেন করেছে। এই পদক্ষেপের ফলে তাদের ফ্ল্যাগশিপ মডেলটির কার্যকর ওয়ার্কিং মেমোরি দ্বিগুণেরও বেশি বৃদ্ধি পেয়েছে, যার ফলে এটি চাঙ্কিং (খণ্ড খণ্ড করা) বা রিট্রেনিং ছাড়াই একটিমাত্র সেশনে সম্পূর্ণ বই, দীর্ঘ আইনি চুক্তিপত্র কিংবা বিশাল কোডবেস প্রক্রিয়াকরণ করতে সক্ষম হবে।
এই আপডেটটি শুধুমাত্র এন্টারপ্রাইজ গ্রাহকদের জন্য নয়, বরং সব ব্যবহারকারীর ক্ষেত্রে প্রযোজ্য এবং এটি অবিলম্বে কার্যকর হয়েছে। এটি পূর্ববর্তী ডিফল্ট সীমার তুলনায় একটি বড় লাফ এবং যেসব কাজ কনটেক্সটের মধ্যে বিশাল পরিমাণের টেক্সট ধরে রাখার ওপর নির্ভরশীল, সেগুলোতে GPT-6.1 Sol-কে এক অনন্য উচ্চতায় পৌঁছে দিয়েছে।
বাস্তবে ৫,০০,০০০ টোকেনের প্রকৃত অর্থ কী
অর্ধমিলিয়ন টোকেন মোটামুটি ৩,৭৫,০০০ শব্দের একটি উপন্যাসের সমান—যেমন পুরো Lord of the Rings ট্রিলজি এবং সাথে The Hobbit যোগ করার পরও কিছুটা জায়গা অবশিষ্ট থাকে। পেশাগত ক্ষেত্রে, এটি হতে পারে ১,২০০ পৃষ্ঠার আইনি ডিসকভারি বান্ডিল, মাঝারি আকারের একটি টিমের পুরো এক বছরের Slack বার্তা, অথবা একটি ছোট সফটওয়্যার প্রকল্পের সম্পূর্ণ সোর্স কোড।
OpenAI-এর মডেলগুলোতে পূর্ববর্তী ডিফল্ট কনটেক্সট দৈর্ঘ্য সাধারণত ১২৮,০০০ টোকেনের আশপাশে সীমাবদ্ধ ছিল। ৫,০০,০০০-এ পৌঁছানো কেবল একটি বড় সংখ্যা নয়; এটি ডেভেলপার এবং জ্ঞানভিত্তিক পেশাজীবীদের প্রম্পট সাজানোর পদ্ধতি ও সামগ্রিক অর্থনৈতিক সমীকরণ বদলে দেয়। একটি নথিকে খণ্ড খণ্ড করে ভাগ করা এবং সেগুলোর সারসংক্ষেপ জোড়া লাগানোর বদলে—যে প্রক্রিয়ায় প্রায়ই সূক্ষ্ম বিষয়বস্তু হারিয়ে যায় এবং প্রচুর সময় নষ্ট হয়—ব্যবহারকারীরা এখন পুরো বিষয়টি একবারে ইনপুট দিতে পারবেন।
OpenAI কেন এখনই এই পরিবর্তন আনল
প্রতিযোগিতা নিশ্চিতভাবেই এর একটি বড় কারণ। Anthropic এবং Google-এর প্রতিদ্বন্দ্বী মডেলগুলো তাদের কনটেক্সট উইন্ডোর পরিসর ক্রমাগত বাড়িয়ে চলেছে, এবং এন্টারপ্রাইজ গ্রাহকরাও লং-কনটেক্সট পারফরম্যান্সকে তাদের চেকলিস্টের শীর্ষে রেখেছেন। তবে OpenAI-এর ব্যাখ্যা বেশ সহজ: প্রতিষ্ঠানটি জানিয়েছে, এই বৃহত্তর উইন্ডো GPT-6.1 Sol-এর জটিল কাজ পরিচালনার সক্ষমতা বাড়ায়, বিশেষ করে শত শত পৃষ্ঠা জুড়ে ছড়িয়ে থাকা তথ্যের ক্রস-রেফারেন্স করার ক্ষেত্রে।
এর একটি ব্যবহারিক দিকও রয়েছে। বড় কনটেক্সট উইন্ডো রিট্রিভাল-অগমেন্টেড জেনারেশন (RAG) পাইপলাইনের প্রয়োজনীয়তা কমিয়ে দেয়, যা শক্তিশালী হলেও প্রায়ই ভঙ্গুর বা জটিল হতে পারে। যখন একটি মডেল নিজেই পুরো কর্পাস সরাসরি পড়ে নিতে পারে, তখন কোন অংশগুলো গুরুত্বপূর্ণ তা আলাদা করে অনুমান করার আর প্রয়োজন পড়ে না।
কাজের ধারায় যে পরিবর্তনের পূর্ণ রূপ এখনও কারও পুরোপুরি জানা নেই
পেশাগত কর্মপদ্ধতিতে এমন কিছু রূপান্তর আসতে পারে যা প্রথম দেখায় স্পষ্ট নয়। একজন ফিনান্সিয়াল অ্যানালিস্ট, যিনি আগে ত্রৈমাসিক ফাইলিং থেকে সংখ্যা ও ডেটা সংগ্রহ করতে ঘণ্টার পর ঘণ্টা ব্যয় করতেন, তিনি এখন একটিমাত্র প্রশ্ন জিজ্ঞাসা করেই এক দশকের 10-K ফাইলিংয়ের পৃষ্ঠার রেফারেন্সসহ নির্ভুল উত্তর পেতে পারেন। কোনো মার্জার চুক্তি পর্যালোচনা করা একজন আইনজীবী একটি একক সেশনেই সমস্ত প্রাসঙ্গিক ইমেল, চুক্তি এবং মেমো আপলোড করে সেগুলোর মধ্যকার অসঙ্গতি খুঁজে বের করতে বলতে পারেন।
তবে বড় কনটেক্সট মানেই যে স্বয়ংক্রিয়ভাবে উন্নত উত্তর মিলবে তা নয়। অত্যন্ত দীর্ঘ ইনপুটের ক্ষেত্রে মডেলগুলো এখনও মনোযোগ হারাতে পারে—গবেষকরা এই ঘটনাকে "lost in the middle" বলে অভিহিত করেন। পূর্ণ ৫,০০,০০০ টোকেন সীমায় GPT-6.1 Sol কেমন পারফর্ম করে সে বিষয়ে OpenAI বিস্তারিত বেঞ্চমার্ক প্রকাশ করেনি, তাই ব্যবহারকারীদের নিজেদের ব্যবহারের ধরন অনুযায়ী এটি পরীক্ষা করে দেখতে হবে।
খরচের বিষয়টি এখনও এক অজানা দিক। বর্ধিত কনটেক্সটের কারণে API গ্রাহকদের জন্য মূল্যে কোনো পরিবর্তন আসবে কিনা তা OpenAI জানায়নি। ঐতিহাসিকভাবে, দীর্ঘ কনটেক্সটের ক্ষেত্রে প্রতি টোকেনে খরচ বেশি হয়ে থাকে, কারণ একসাথে বিপুল পরিমাণ টেক্সট প্রক্রিয়াকরণে তুলনামূলকভাবে বেশি কম্পিউটিং ক্ষমতার প্রয়োজন হয়।
সামনে কোন বিষয়গুলোতে নজর রাখতে হবে
GPT-6.1 Sol ব্যবহার করে কাজ করা ডেভেলপাররা তাদের বিদ্যমান পাইপলাইনের সাথে এই নতুন সীমা পরীক্ষা করতে চাইবেন। কোম্পানিটি স্বল্প-কনটেক্সট মোডগুলোর আনুষ্ঠানিক বাতিলকরণ (deprecation) সময়সূচি প্রকাশ করেনি, তবে ডিফল্ট মান ইতিমধ্যে পরিবর্তিত হয়ে গেছে। যেসব টিম ডেটা চাঙ্কিং কৌশলের ওপর নির্ভর করত, তাদের জন্য এখন পুনর্বিবেচনা করার সময় এসেছে যে সেই সমাধানগুলোর এখনও কোনো প্রয়োজন আছে কিনা।
OpenAI আগামী দিনগুলোতে হালনাগাদ API ডকুমেন্টেশন এবং মূল্যের বিস্তারিত তথ্য প্রকাশ করবে বলে আশা করা হচ্ছে। ততদিন পর্যন্ত বেশিরভাগ ব্যবহারকারীর জন্য ব্যবহারিক সর্বোচ্চ সীমা নির্ভর করবে তাদের বাজেটের ওপর—যেখানে ৫,০০,০০০ টোকেন এখন ছাদ নয়, বরং ভিত্তিস্তর।
